AI 产生内容也会有「身分证」了。近日 OpenAI、Meta 等七家科技巨头承诺采用安全措施增加 AI 技术安全性。
七家科技巨头不约而同谈到 AI 监管问题并承诺共同开发浮水印系统，可嵌入人工智慧产生的所有内容，如文本、图片、音讯和影片。看到内容有这浮水印，用户就能辨识是否 AI 产生的假资讯，降低暴力、诈骗等不良资讯传播风险。去年 ChatGPT 爆红後，入局 AI 的科技巨头都想拔得头筹，使 AI 技术发展一日千里。不成熟的 AI 技术也衍生值得关注的问题，首当其冲的正是如何辨识资讯真实性。
2019 年某诈骗集团利用 AI 语音模仿软体冒充大老板，成功让英国某能源公司 CEO 以为是与德国母公司老板通话。诈骗集团使用 AI 技术类比语音，让 CEO 立即转帐 22 万欧元至匈牙利某供应商帐户，以避免缴纳「滞纳金」，并要求将转帐资讯寄给他，CEO 毫不犹豫照做，当然 22 万欧元就丢水里了。
能源公司承保保险公司表示：「诈骗集团使用某种 AI 软体，不但能模仿某人声音语调，甚至能模仿德国口音英语。」被骗 CEO 信件愤怒写道：「（假的）约翰尼斯甚至在我与真正约翰尼斯通话时，要求跟我通话。」
这离谱事件引发使用者担忧 AI 无限制发展。突破常规的人工智慧技术用於诈骗，更像「猜猜我是谁？」进化版。但普通人的警惕心现在毫无用武之地，这还是 2019 年发生的事，只过三年，AI 技术迅速发展更让人瞠目结舌，真实性问题也再次受大众注意。
倘若以「AI 诈骗」为关键词，至搜寻引擎筛选资讯，会发现 AI 诈骗事件比比皆是，这普遍性恰恰反映祭出有效措施有多迫在眉睫。
6 月欧洲议会以 499 票赞成、28 票反对和 93 票弃权，高票通过欧盟《人工智慧法案》，确定 AI 监管不可越过的红线，基於 AI 四级（从风险最小到不可接受）区分管理，确保 ChaTGPT 等工具必须披露哪些内容是 AI 产生，以便区分 Deepfakes 图片和真实图片，并防止产生非法内容。
欧洲议会议员图朵拉赫表示：「如果人工智慧开发者不这样做，可能被迫立即删除应用程式或遭罚款，罚款最高可达收入 7%。」可能高达数亿欧元的罚款对科技巨头也算得「伤筋动骨」了。
七家科技巨头选择技术层面资讯嵌入浮水印，一方面有利使用者辨识资讯真实性，方便使用者追溯内容源头，另一方面也是对《人工智慧法案》的无声回应，毕竟强如苹果也不敢轻易放弃欧盟市场。尽管这也治标不治本，但话先说了再行动，公司和大众都有个心理准备。
（本文由 爱范儿 授权转载；首图来源：shutterstock）