ChainCatcher 消息,ChatGPT 开发公司 OpenAI 在其官网中发布了题为《Our approach to AI safety》(《我们保障 AI 安全的方法》)的文章,介绍了该公司确保 AI 模型安全性的部署。
文章称,AI 工具为当今人类提供了许多好处。OpenAI 同样意识到,与任何技术一样,这些工具带来了实际风险,因此该公司正努力确保在系统的各个层面都建立安全保障。
在发布任何新系统之前,OpenAI会进行严格的测试,聘请外部专家提供反馈,通过人工反馈强化学习等技术改进模型的行为,并构建广泛的安全和监控系统。
此外,OpenAI 认为,强大的人工智能系统应该接受严格的安全评估。需要监管以确保采用此类做法,我们积极与政府合作,以制定此类监管的最佳形式。
同时,社会必须有时间来适应并调整以适应越来越强大的 AI,OpenAI 也将以保护儿童、尊重隐私、提高事实准确性作为 ChatGPT 安全工作的重点,并花费更多的时间和资源研究有效的缓解措施和技术,并针对现实世界的多样用例进行测试。(来源链接)
文章来源于互联网:OpenAI 介绍保障 AI 模型安全性的部署:发布新版本进行严格测试,构建安全和监控系统