21世纪经济报道 记者郭美婷 实习生严梓瑄
继马斯克、图灵奖得主等一众大佬签署公开信、联名呼吁暂停大型AI研究后,ChatGPT再遭争议与质疑。
近日,意大利个人数据保护局宣布,从即日起禁止使用聊天机器人ChatGPT,并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。这是第一起政府禁止使用聊天机器人的案例。
个人隐私泄露,意大利禁用ChatGPT
3月20日,多名ChatGPT用户表示在自己的历史对话中看到了他人的对话记录。还有不少 ChatGPT Plus用户在Reddit和Twitter等平台发出截图,表示在他们的订阅页面上看到了其他人的电子邮件地址。
3月25日,OpenAI发布声明承认,由于开源代码库中存在一个漏洞,部分用户能够看到另一个用户的聊天标题记录,此前已将ChatGPT短暂下线并紧急修补此漏洞。
同时,OpenAI表示,在特定的9小时窗口期内,1.2%的付费版用户的个人支付信息可能被泄露。部分用户可能会看到另一名活跃用户的姓名、电邮、支付地址、信用卡后4码、信用卡到期时间等信息。
意大利个人数据保护局认为,ChatGPT泄露了用户对话数据和付款服务支付信息,没有告知用户将收集处理其信息,缺乏大量收集和存储个人信息的法律依据,同时缺乏年龄验证系统,因此未成年人可能接触到非法信息。OpenAI公司必须在20天内通过其在欧洲的代表,向意大利个人数据保护局通报公司执行保护局要求而采取的措施,否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。
忧心泄密风险,企业限制ChatGPT使用
事实上,这已经不是ChatGPT第一次拉响有关数据安全担忧的警报。
据报道,微软的工程师和亚马逊的律师都曾警告员工,不要与ChatGPT分享“任何亚马逊的机密信息,包括你正在编写的代码,因为他们可能会将其用于训练未来的模型。”
然而,警告或许并未达到实际效果。数据安全公司Cyberhaven调查了不同行业客户的160万员工的ChatGPT使用情况。该公司发布报告表示,2.3%的员工将公司机密数据贴入ChatGPT,企业员工平均每周向ChatGPT泄露敏感数据达数百次,目前敏感数据占员工粘贴到ChatGPT的内容的11%。
多家媒体消息称,三星内部就发生了3起误用、滥用ChatGPT案例,恐泄露三星内部机密。其中,有两起关于三星的半导体设备,另一起关于三星的内部会议内容。
有观点认为,输入ChatGPT的数据可能被用于未来模型的迭代训练。如果用户输入敏感数据,这些数据便极有可能成为其输出的内容,造成敏感数据泄露。
出于这种忧虑,美国银行、花旗集团、德意志银行、高盛集团、富国银行、摩根大通和Verizon等机构已经禁止员工使用ChatGPT聊天机器人处理工作任务。许多日本大公司,如软银、富士通、瑞穗金融集团、三菱日联银行、三井住友银行等,也限制了ChatGPT和类似聊天机器人的商业用途。
本周,1000多名科技行业领导和研究人员呼吁暂停先进AI系统的研发,以便相关的数据安全政策能够首先得到讨论施行。AI与数字政策中心(The Center for A.I. and Digital Policy)长期致力于推行数字科技的道德化使用,要求美国联邦交易委员会(U.S. Federal Trade Commission)禁止OpenAI发布ChatGPT新的商用版本。
日前,OpenAI首席执行官Sam Altman在接受媒体采访时坦白,对AI技术以及它如何影响劳动力、选举和虚假信息的传播有些害怕,“我担心这些模型可能会被用于大规模的虚假信息传播。”他认为,这些可能的负面影响需要政府和社会共同参与监管,并呼吁反馈和规则对抑制人工智能的负面影响非常关键。
尽管,在2019年微软宣布注资10亿美元支持OpenAI研发通用人工智能模型时,Sam Altman曾将这一努力与二战期间美国制造原子弹的曼哈顿计划相提并论,认为二者都将带来巨大的科技进步,且自信于控制风险的能力。