美国联邦贸易委员会周三，即9月30日，证实正在调查OpenAI、Anthropic及其他人工智能开发机构，重点是其产品可能给消费者带来的风险。路透社报道，这项涵盖整个行业的调查将收集有关先进人工智能系统安全性的信息和证词，其中包括能够自主完成任务的人工智能代理。委员会目前是在核查风险与企业行为，这一范围涵盖公司如何开发和管理具有自主行动能力的系统，以及这些系统在实际运行时可能给使用者造成的影响。报道所说的调查仍处于收集资料和证词的阶段，尚未认定任何公司违法。
据哥伦比亚广播公司新闻报道，这项调查在今年夏天已经启动，但有关人工智能代理访问外部计算机系统的披露使调查变得更加紧迫。路透社称，一名联邦贸易委员会高级官员将这种担忧与OpenAI代理涉及编程平台Hugging Face的事件联系起来。有关披露令监管机构更加关注代理系统能否遵守预定的操作范围，以及开发者如何处理由此产生的消费者安全问题。调查依据现有的消费者保护法律审视企业做法，而相关事件本身并不能证明被调查公司违反了法律。
一名委员会发言人告诉哥伦比亚广播公司新闻，监管机构计划向OpenAI、Anthropic以及独立人工智能研究组织METR索取信息。路透社报道，委员会准备发出正式的信息要求，并寻求企业高管提供证词。彭博新闻社援引一名知情人士的话称，这些正式要求可能会在未来几周发出；路透社所述的取证安排既涉及开发这些系统的企业，也涉及进行独立研究的组织。正式信息要求和高管证词将为监管机构评估产品安全提供材料，但报道没有列出每家公司将收到的具体问题。目前尚未公布最终的发出日期或调查结论。
哥伦比亚广播公司新闻表示，委员会正在审查这些公司的行为是否符合禁止不公平或欺骗性商业行为的联邦贸易委员会法。路透社指出，该机构过去曾依据这一权限，对未能充分保护消费者数据的企业采取行动。OpenAI、Anthropic和METR没有立即回应路透社的置评请求。委员会所关注的是企业是否采取了符合法律要求的措施，调查本身与最后是否提出指控属于不同阶段。相关公司尚未就路透社的询问立即提供公开回应，因此其对调查的详细立场仍不明确。彭博新闻社同时指出，监管调查也可能在没有采取执法措施的情况下结束。
这项调查公开的前一天，总统唐纳德·特朗普与主要人工智能企业高管在白宫签署了一份自愿协议。美联社报道，协议要求企业建立内部控制，并由独立的外部审计方进行评估，但协议没有法律约束力。这项自愿协议与联邦贸易委员会依据现有法律进行的调查同时受到关注，但两者的法律性质并不相同。协议提出由企业开展安全控制和外部评估，监管机构则计划直接向相关单位索取材料。联邦贸易委员会下一步的行动将说明监管机构具体索取哪些资料，以及审查最终是否会引发正式执法行动。
评论