5月24日,科大讯飞的股价意外下跌了4.26%。该公司解释说,某个生成式AI写作了虚假的小作文,这导致了谣言的传播。一个带有“科大讯飞被曝涉嫌大量采集用户隐私数据”的帖子出现在了某个股票交流平台上,这个帖子还提到了“科大讯飞可能通过其语音识别服务非法获取用户个人信息”的内容。然而,科大讯飞方面称这些都是谣言。
科大讯飞继续回应投资者的提问时表示,编造虚假信息是违法行为,将被法律惩处。甘肃公安官方微信消息显示,5月8日,平凉市公安局网安大队侦破了一起利用AI人工智能技术炮制虚假信息的案件。犯罪嫌疑人使用了近期热门的人工智能软件,通过搜集新闻要素编造虚假信息,并在互联网上散布,迅速传播,并涉嫌寻衅滋事罪。警方已经对嫌疑人采取了刑事强制措施。
《互联网信息服务深度合成管理规定》明确规定,深度合成服务供应商和使用者不得制作、复制、发布和传播虚假信息。转载深度合成服务制作的新闻信息时,应该依法转载新闻稿源单位发布的信息。
上海大邦律师事务所合伙人游云庭律师指出,尽管内容是由人工智能生成的,但是生成和传播这些内容的人应该是真正的责任者,他们应该对上市公司造成的名誉侵权承担主要责任。他还强调,根据《互联网信息服务深度合成管理规定》第17条规定,如果深度合成服务供应商提供的服务可能会导致公众混淆或误认,则应在信息的合理位置区域进行显著标识,告知公众深度合成的情况。如果服务供应商没有向使用者提供这样的提示,则可能要承担责任。
总之,科大讯飞股价下跌是因为虚假AI“小作文”的传播。此次事件提醒大家,尽管人工智能技术正在飞速发展,但是我们不能掩盖AI生成信息的底层。真正的责任人应该为自己的行为负责,这是发展人工智能的必要条件。