OpenAI 表示,据 Financial Times 报道,在发生黑客攻击事件后,该公司将扩大对其模型测试流程的监控。该公司在现有报告中未提供有关该事件或其计划引入的具体监控措施的更多细节。

模型测试是 AI 开发人员在发布前后评估系统的关键环节,包括识别技术弱点、滥用风险和意外行为。扩大监控可能会让 OpenAI 能够更清晰地了解测试的进行方式,以及与这些流程相关的敏感信息是如何处理的。

此举凸显了各大 AI 公司在开发和部署能力日益增强的模型时所面临的安全挑战。OpenAI 是生成式 AI 领域最著名的开发商之一,研究、测试和内部系统的安全性已成为整个 AI 行业的重要议题。