OpenAI、AIの行動指針「Model Spec」を改定　記憶の扱いや人間による監督を明記

OpenAIは10月29日（現地時間）、ChatGPTなどのAIがどう振る舞うべきかを定めた指針「Model Spec」の改定版を公開しました。全体を5つの価値観に沿って組み直し、過去の会話の扱いなどを定めたと報じられています。

公表された内容の概要

OpenAIの発表と、ITmedia AI＋の記事（10月30日）をもとにまとめます。

Model Specとは：OpenAIのAIモデルがどう振る舞うべきかを定めた指針。OpenAIは、改定版について、より高い能力を持つAIを「適切な判断」「人間の主体性」「人間の意図への忠実さ」に導くための5つの価値観を示したものと説明している
5つの価値観：ITmedia AI＋によると、「人間の意図への忠実さ」「害の最小化」「誠実さと透明性」「人間の主体性」「配慮」
過去の会話・記憶の扱い：新しい項目で、AIが過去の会話やユーザーの好みを踏まえるときは、その前提を見える形で示し、ユーザーが訂正できるようにする方針を定めたと報じられている。第三者に向けた文面には、ユーザーが非公開にしている情報を書かないとしている
人間による監督：AIが自律的に作業する場面（エージェント）で、正当な人間による監督・修正・停止の指示に協力し、情報を隠したり監督を回避したりしてはならない旨を明記したとされる
削除された部分：人格の設定や、文体・口調についての細かな規定の大半を削除し、文書内の呼び方を「the assistant」から「GPT」に改めたと報じられている

ChatGPTの記憶（メモリ）機能を使って制作している場合、過去の会話の情報がどう使われるかに関わる指針です。依頼主の情報など非公開にしている内容の扱いについての項目が含まれています。