OpenAI更新《模型规范》，将忠于人类意图列为基础

OpenAI周四更新公开版《模型规范》，围绕忠于人类意图、最大限度减少伤害、诚实与透明、尊重人类自主权和关怀五项价值观重构框架。规范将忠于人类意图列为基础，要求模型理解用户、开发者和OpenAI的意图与价值取向，而非只按指令字面执行。 OpenAI表示，更新旨在帮助模型在陌生情境中运用人类价值观，同时接受人类监督。模型应尽量减少伤害、如实说明所知与所不知，并帮助用户自主决策。该公司称，目前的模型尚未完全体现规范要求，正在探索新的训练方法。此举与Anthropic通过书面原则指导模型行为的“宪法式AI”方法相呼应。