AI奇谭

他和首席财务官开视讯会议，对方指示他转账两亿港元到某个账户。既然老板交待，他照办，哪想到这原来是诈骗？况且线上与会者还有其他同事，这怎可能是诈骗？

偏偏它就是诈骗，此事于今年二月在香港发生。从首席财务官到每一个同事的脸，都是AI deepfake生成的。骗徒在网上收集公司员工的影像以训练AI，然后在视讯时换脸。此等骗局简直像好莱坞盗窃电影的桥段，如今竟成现实。

其实这类欺骗早就发生在直播聊天室，就是那种让寂寞毒男打赏美眉的聊天室。在中国，有个直播主忘了启动美颜滤镜，结果暴露了胡渣男的真面目。是的，滤镜设定推到极致可把丑男变美女，搞不好那香港骗案主脑就是在某个寂寞深夜，发现心仪美女竟是胡渣男后深受打击，然后得到诈骗灵感。

Upload是2020年开播的美国科幻剧，在故事中的未来世界，人可在临终前把大脑内容上载到云端，继续活在虚拟世界，和在世的人沟通。目前我们当然没有这样的科技，然而美国公司Deepbrain AI竟推出了效果类似的服务。它为在世的人做为期数周的深度访谈和录影，用作训练AI的素材，不只能复制出栩栩如生的影像，还能模拟本尊的语气谈话。待本人过世之后，后代可到该公司的访谈室“继续”和他聊天。

这家公司本来的业务是提供仿真AI人像，比如说你要做产品说明的视频，却找不到合适的主持人，便可用他们提供的“假人”。这样的技术延伸到复制逝者的分身，是顺水推舟的事。不久前我接触过一个朋友，他的业务可奇特了，有些商家、网红太忙没时间亲自拍摄视频，他用AI为他们复制分身，效果难辨真伪，只要提供文字剧本，一支影片就自动生成了。

视频能生成，音乐更不用说。前阵子有个念头想为脱口秀写主题曲，有人介绍我用AI，让我见识了AI如何片刻就“创作”好一首歌，歌词押韵、配乐演唱全包。后来我们没有使用，我还是执着于真人原创。然而如果真用了，谁又听得出来是机器做的？有很多视频和音乐都“不需要”真人原创，比如广告。那么真人们的的饭碗怎么办呢？

这世界正因AI而急速改变，冲击越来越大，连诈骗都进化了，我们能不迎头赶上吗？至于该怎么调适，我们只得自己摸索找答案了，这件事AI可不会帮忙解答。

2024.06刊于中国报

喜欢吗？请帮忙分享！