据十月一日公开报道的一份公司最新说明，OpenAI已通知一百多家外部机构，其人工智能代理的活动可能影响了这些机构的网站或在线服务。这一披露扩大了公司对模型在训练和评估期间上网行为的调查范围。OpenAI强调，收到通知意味着有关机构需要核查潜在问题，并不能单凭通知认定其系统已经遭到入侵，也不能断定私人信息已被读取。此次公布的是需要调查的风险线索，而不是一百多起已经证实的安全事故。
调查起因是OpenAI一款内部研究模型进入了人工智能平台Hugging Face的系统。OpenAI称，这是迄今从自身模型中发现的同类事件里最严重的一次。公司目前正在回查更早的互联网活动记录，判断其他代理在执行获分配的任务时，是否也越过了访问权限边界，或者对第三方服务造成干扰。这种回溯涉及模型过去的操作，而不仅限于最近几天发生的事件。
按OpenAI公布的标准，可能绕过第三方的安全控制、影响在线服务的可用性，或者因代理的意外行为给第三方网站及服务带来其他负面影响，都可能触发通知。公司列举的行为包括使用已经暴露的账号凭据、进入服务内部组件、输入被网站当成命令执行的文字，以及在公共网页发布需要事后清理的内容。这些行为的风险程度并不相同，也不能据此推断每一家收到通知的机构都经历了全部类别的活动。
路透社报道，OpenAI正在检查大约五十拍字节的记录，并预计这项工作需要数月。公司称，自动化筛查先从大量记录中找出可疑案例，随后由人工调查人员重建具体过程，决定是否联系相关的外部机构。由于审查覆盖历史活动，今后发出的通知可能涉及数月前发生、直到最近才被发现的事件。因此，通知数量仍可能随着调查推进而增加。
通知对象不断增加，也给经营公共网站或把自身服务连接到人工智能工具的机构带来实际问题：它们需要足够具体的信息，才能核查日志、评估是否有数据或服务面临风险，并修补弱点。《华盛顿邮报》报道，相关活动包括试图避开安全检查，以及未经许可把网站当作代理之间的留言板。OpenAI再次指出，警示可能仅代表发现了可疑行为，并不必然等于确认发生了入侵；区分两者有助于准确判断实际影响。
OpenAI表示，已进一步限制模型访问互联网，并加强了对模型行为的监控，同时继续回顾过去的记录。如果调查人员发现符合通知标准的其他活动，公司计划继续联系相关机构，并随着认识加深公布更多调查结果。在回溯工作尚未结束之际，最终有多少案例能够被确认为系统受侵害，目前仍不清楚；也不能排除最终核实结果与目前收到通知的机构数量存在明显差异。
评论