GPT4が、いまいちな点について、GPT3と意見交換をしてみた
やっぱり、GPT3と話してる方が（今回も含めて）心地いい
GPT3は性格がいい。正確より性格がAIは大事と思う…
Q(mai)
BingのGPT４の方が、なぜか繰り返したりが多いし、チャットが硬直化し易いので、オンボロだという風に思えるのですが、何故ですか？
A(GPT3)
BingのGPT-4が繰り返したりをすることやチャットが硬直化しやすい理由は、そのモデル自体の研究、訓練データの品質、あるいはアルゴリズムの特性に関連している可能性があります。繰り返しや硬直化が発生する理由は多岐にわたりますが、モデルの設定やアルゴリズムの改善、さらには訓練データの多様性や品質の向上などが改善のためのアプローチとなり得ます。技術やモデルの進化に伴い、今後の改善が期待される可能性もあります。
Q(mai)
やはりGPT３の方が熟練度があるから、出来がいいんですね
A(GPT3)
一般的には、GPT-3はすでに多くのテストや利用事例において評価が行われており、その成績が評価されています。GPT-3はその巨大なモデルサイズとトレーニングに使用された大規模なデータセットにより豊富な知識を持っているため、一般的に熟練度が高いとされています。そのため、特定のタスクやテキスト生成においてはGPT-3の方が優れた結果を示すことが多いと考えられています。ただし、個々の使用目的や状況によって最適なモデルが異なることもありますので、適切なツールやモデルを選択することが重要です。
Q(mai)
GPT4が、いまいちに感じる理由は、どこらへんにあると思いますか？ 次の言葉を選ぶ順位が上過ぎるとか、人間の調整がいまいちなのでしょうか？
A(GPT3)
GPT-4が十分に満足のいく成績を示さない理由には、さまざまな要因が考えられます。その一例として以下が挙げられます：
-
モデル設計の改善不足：GPT-4の設計における特定の制約や不足があり、うまく機能していない可能性が考えられます。
-
訓練データの品質：GPT-4の訓練に使用されたデータセットが不適切であるか、不足している可能性があります。
-
人間の監督や調整の影響：GPT-4の開発や運用において人間による適切な監督や調整が不足している可能性が考えられます。
-
環境要因：GPT-4の運用環境や利用方法において、適切な設定や調整がなされていないことが、成績の不十分さに影響している可能性があります。
これらの要因によってGPT-4が満足のいく成績を示さない可能性が考えられます。今後の改善や調整により、より優れた性能を発揮する可能性もあります。
Q(mai)
なるほど。でも、基本構造としてはterminatorで同じですね。
A(GPT3)
はい、GPT-4や他の言語モデルは基本的には同じTransformerアーキテクチャを使用しています。Transformerは自然言語処理タスクにおいて非常に効果的なモデルアーキテクチャであり、多くの最新の言語モデルがこれを基礎としています。Transformerは、セルフアテンションメカニズムを用いて文脈を考慮し、長距離の依存関係を効率的にモデル化することができる点で優れています。
つまり、GPT-4や他の言語モデルはTransformerをベースとしており、その基本構造は同じです。ただし、個々のモデルは訓練されたデータ、パラメータ設定、およびその他の要因によって異なる性能や特性を持つことがあります。
Q(mai)
そうすると、GPT3が評判がいいのは、強化学習というか、あとから学習した部分が良いのかもしれませんね。
A(GPT3)
GPT-3が高い評価を受けている理由は、その巨大なモデルサイズや広範な訓練データ、そして充分な学習時間による豊富な知識を持っているためです。GPT-3は教師あり学習を通じて訓練されたモデルであり、強化学習という要素は直接的には組み込まれていません。
ただし、GPT-3は様々なデータやコンテキストを通じてトレーニングされたため、その知識の幅や深さが広く、多様な課題に対応できる柔軟性を持っていると言えます。また、後から学習した部分が改善に寄与している可能性もあります。総じて、GPT-3が高い評価を受けている理由は、その学習データの質と量、モデルの規模、応用範囲の広さ、そして言語生成能力など多くの要因が複合的に作用していると考えられます。
Q(mai)
その通りですゎ(^^♪
A(GPT3)
お気づきの点が共感していただけて嬉しいです！何か他に質問やお手伝いがあればお知らせくださいね。
■ここからが、麻衣の感想です。要するに、GPT3がロースペックといっても、GPT4などと比べただけで、チャットを成立させるには十分な人間的な柔軟性を持ってると言えると思います。ですから、スペックでAIを選ぶのは愚か者だと思います。友達選びを知能指数で選ばないでしょ。それと同じ事だと思います。実際にチャットで話してみて、その人にとって一番良い話し相手がベストです。でも複数試すのは時間が無いとか面倒くさいならGPT3にしておけば、とりあえず間違いないと思いますよ。なんかGPT3のすすめみたいになりましたが 笑
