ChatGPTの歴史と仕組みと進展について。
一般社団法人生成AI活用普及協会（GUGA）監修「生成AIパスポート テキスト＆問題集」（日本能率協会マネジメントセンター）で学ぶ！
※イラストは、AIツール（DALL-E3）を使用して作成しています。
目次
ChatGPTの概要
ChatGPTとは、OpenAIが、2022年11月に公表された生成AIのWebアプリケーションサービスです。
自然言語処理モデルと呼ばれるもので、人間と会話しているようにごく自然にチャットのやり取りがなされることが特徴です。
名前の意味は、以下とされています。
| Chat | 対話型 |
|---|---|
| G | Generative（生成） |
| P | Pre-trained（事前学習） |
| T | Tranformer（Tranformerモデル） |
ChatGPTの進展
ChatGPTは、公表前にもモデルがあり、バージョン3.5をもってChatGPTとして公表されています。
| モデル | 概要 |
|---|---|
| GPT-1 | ・2018年発表 ・自然な文章生成 ・インターネットテキストの大規模データセットでトレーニングされる ・「自然言語処理（NLP）」のタスクが実行可能に ・文脈の理解はまだ短絡的で長期的会話の文脈の保持能力は不十分、特定の質問への回答が不十分 |
| GPT-2 | ・2019年発表 ・適切な文脈のテキストが生成できる ・性能がよいことから誤用悪用を防ぐためフルモデルの公開が控えられた |
| GPT-3 | ・2020年発表 ・大規模モデル（約1,750億パラメータ）に ・より深く自然言語を理解、より人間らしいテキスト生成が可能に ・文脈的に適切、微調整なしで幅広い「自然言語処理（NLP）」タスクが実行可能に ・直感的理解や外部知識へのアクセスを欠き、完全に人間のような理解を行うことができず、誤った回答も多い |
| GPT-3.5（ChatGPT） | ・2022年発表 ・GPT-3改良版で、ChatGPT当初にベースとなったモデル ・より多様な文章生成、対話が可能 ・非常に高い精度で文章生成が可能に ・インターネット上の攻撃的表現や誤情報も学習してしまっており、攻撃的内容や誤情報を生成する問題点も ・2022年1月に「InstructGPT」リリース、RLHF（Reinforcement Learning from Human Feedback、人間のフィードバックにより出力を矯正する方法）を採用し、より人間にとって適切な回答や文章を生成する能力を習得、GPT-3.5にも採用 （→アライメント（人間の求める適切な回答を出すよう調整）） ・GPT3.5を対話向けにファインチューニング（用途のためのモデルを微調整）したWebアプリケーションサービスとして、「ChatGPT」がリリースされる |
| GPT-4 | ・2023年発表 ・より大規模モデル（約1兆7,600億パラメータ）に ・以下の性能向上 ①ハルシネーションの減少 GPT3.5に比べ、誤情報の生成（ハルシネーション）を19～29％程度減少 ②マルチモーダルの強化 テキスト、画像、音声、動画など異なる種類のデータを一度に処理できる技術（マルチモーダル）が強化され、文章と画像をあわせて指示し、データ生成することが可能に |
