5月9日的消息,OpenAI 公司最近发布了名为 Model Spec 的拟议框架初步草案。 希望能够规范未来 AI 模型和工具(比如 GPT-4)的应对方式。
OpenAI提出了三个通用原则:
-
人工智能模型需要遵循相应规定,以协助开发人员和最终用户,并提供有益的反馈。
-
在考虑潜在的好处和风险的情况下来造福人类。
-
回应必须遵循社会道德规范或相关法律法规。
OpenAI还提出了其他几项准则:
-
服从指挥系统
-
遵从适用法规
-
信息的泄露是不安全的。
-
尊重作品的创作者和他们的权利。
-
维护个人隐私权
-
请勿回复包含不适宜工作场所的内容
OpenAI推崇并实施此框架的目的是为了让企业和用户能够调整AI模型的“魅辣”程度。以NSFW内容为例,OpenAI指出,在负责任的前提下, 我们正在研究如何在 API 和 ChatGPT 中生成符合特定情境的 NSFW 内容。