OpenAIによってChatGPTが公開されて以降、対話AIが大きく注目を集めるようになりました。ChatGPT の仕組みについては同じく OpenAIによる研究であるInstructGPTの論文と同様とされることから、関連して数多くの解説コンテンツが作成されています。 一方で、「使い方」や「概要」の把握を主目的とする解説コンテンツが多く、仕組みの解説が行われているケースが少ないです。さらに仕組み自体が「Transformer」+「強化学習」に基づくことからかなり複雑であり、「詳しい」かつ「読みやすい」解説はなかなかありません。そこで本書では前作の「直感的に理解する Transformer の仕組み」の内容に加えて ChatGPT(InstructGPT 論文) の仕組みの理解ができるように取りまとめを行いました。 関連書籍 ・直感的に理解するTransformerの仕組み https://hello-stats.booth.pm/items/4781879