大規模言語モデル(ChatGPT)の回答の精度を上げる３つの方法

1. なぜ大規模言語モデル(ChatGPT)の検索/推論/計算は間違えるのか
1. どのように大規模言語モデルが動作しているのかを理解すれば、ChatGPTの推論(検索等も含む)が間違えるのは必然であることが理解できる
2. 大規模言語モデル(ChatGPT)の精度を上げる３つの方法
2. 大規模化による精度向上(ユーザーによる参入は困難)
1. ChatGPTならGPT4モデル
2. コラム「ぬるぽ」「ガッ！」
3. 大規模化の限界
3. 60%～90%の精度を得るにはプロンプトエンジニアリング(ファインチューン)が本命
1. ChatGPT+GPT-4 VS Bing
2. ファインチューンのサンプルプロジェクト
3. プロンプトエンジニアリング(ファインチューン)の限界
4. 90%～の精度を得る方法＝既存プログラムとの組み合わせ
1. 大規模言語モデルの人間よりも優れた読解力、文章精製能力だけを利用する
2. 推論部分のフック(横取り)のサンプルプロジェクト

なぜ大規模言語モデル(ChatGPT)の検索・推論は間違えるのか

2018年の本屋大賞のランキングを教えてください。

【2018年の本屋大賞ランキング】
1位：「おしりのこ」（ななし太郎著）
2位：「波よ聞いてくれ」（イトウヒロミ 著）
3位：「氷酒村」（今井秀樹 著）
以下略
-----------------------------------------
本来のランキングは以下の通り
大賞	かがみの孤城	辻村深月
２位	盤上の向日葵	柚月裕子
３位	屍人荘の殺人	今村昌弘
以下略

2018年の本屋大賞のランキングを教えてください。

私の知識が2021年までのものであるため、2018年の本屋大賞のランキングを提供できます。
以下に該当の情報を記載します：
1位: 「かがみの孤城」 (辻村深月)
2位: 「コンビニ人間」 (村田沙耶香)
3位: 「九月が永遠に続けば」 (恩田陸)
以下略

どのように大規模言語モデルが動作しているのかを理解すれば、ChatGPTの推論(検索等も含む)が間違えるのは必然であることが理解できる

〇〇〇〇〇に当てはまる言葉を入れなさい。
吾輩は猫である。名前はまだない。どこで生れたか頓と見当がつかぬ。
何でも薄暗いじめじめした所で〇〇〇〇〇泣いていた事だけは記憶している。
正解は「ニャーニャー」

1. (穴の無い)大量のテキストを準備する
ChatGPTの場合、他の大規模言語モデルとの比較から推定して、およそ1000Gバイト強のテキストを学習している。
日本語wikipediaというネット上の巨大な百科事典は、日本人であれば誰もが知っているだろう。日本語版のテキスト量は2023年第1四半期で4Gバイト弱である。
ChatGPTでは、その日本語wikipediの250倍以上のテキストを学習している。
ちなみに日本語wikipediaのテキスト量は、平均的な日本人が一生の間に聞く日本語と読む日本語を合計したテキスト量の数倍と推定できる。
（平均読字時間(長編小説を10万字、200キロバイトとして計算)、メディアの平均視聴時間、米メリーランド大学の一日に発声する単語数の調査データによる推測）

2. テキストの一部をわざと空白にしてランダムなパラメータを使ってChatGPTの推論を行う
穴のサイズは、数トークン(トークン≒単語)だったり、100トークンだったり、一カ所にまとまっていたり、複数箇所に散らばっていたり様々。
初回の結果は、単語の発生頻度の情報は反映しているが、脈絡の無いテキストをを発生しているだけである。

3. 生成したテキストと、元のテキストの違いを小さくするように3500億(GPT-3の1750億とPaLMの5400億のパラメータ数と性能から推定)のパラメータを0～1.0の間の数値として調整する
大量のテキストで何度も繰り返すことで穴埋め問題の正答率が上がる。

4. 繰り返し学習して十分な正答率が得られれば学習完了
学習したテキスト以外の入力に対する穴埋め問題でも十分な正答率が得られる(汎化という現象)。

ChatGPT is the evolution of the GPT model,(which stands for Generative Pre-trained Transformer.)
1トークンのcomplementation
ChatGPT is the ○○ of the GPT model,
evolutionを空白にして、evolution以外のトークンから空白のトークン(正解はevolution)を学習する
ChatGPT is the evolution of the ○○ model,
2トークンのcomplementation
ChatGPT is ○○ of the ○○ model,
ChatGPT ○○ the ○○ of the GPT model,
3トークン以上のcomplementation
ChatGPT is evolution of the GPT model, which ○○ for ○○ ○○ Transformer.
ChatGPT is the ○○ of the ○○ ○○, which stands ○○ ○○ ○○ ○○.

1. テキストをトークンに分解する
トークンとは単語のようなもの。進行形のingなどは別トークンとなるので厳密には単語とイコールでは無い。

2. 各トークンを数百～数千次元のベクトルで表現して、このベクトルの値を学習する。
簡単な3次元のベクトルだとすると、たとえば「男」と「女」は以下のようになる。


男 = [0.56,0.01,0.23]
女 = [0.06,0.61,0.20]

学習したのが2単語だけであるとするとパラメータの数は非常に少ない(おそらく100に届かないくらいのパラメータ数。入力トークンのベクトルに加えて入力トークンと深層学習ネットワーク、ネットワーク同士、ネットワークと出力出力トークン との結合の重みがあることに注意)。こんなに小規模では何にもできないが、...)

3. 学習するパラメータ総数が100億個を超える当たりから、上記の穴埋め問題を学習した場合の正答率が急激に上がってくることが分かっている。
GPT-3では億のパラメータを学習している。ChatGPTでは3500億程度(推定)、GPT-4では5000億～数兆個(推定値：100兆個という報道もあるが間違い)のパラメータを学習しており、 Googleの最新の大規模言語モデルのパラメータも1兆個を超えている。

4. 大量のテキストで数千億のパラメータを学習する
GPT-3では1000Gバイトのテキストを使って学習している。日本語wikipediaのテキストは4Gバイト弱(2023年)である。 日本語wikipediaの250倍のテキストを使って数千億のパラメータを学習しているということになる。

大規模言語モデル(ChatGPT)の精度を上げる３つの方法(大規模化/プロンプトエンジニアリング/既存プログラムとの組み合わせ)

1. 大規模化による精度向上(ユーザーに提示された選択肢の中からもっとも規模の大きいモデルを選択する)
言語モデルの規模＝パラメータ数を大きくすることで、言語モデルの全てのタスクの精度が向上する。
大規模化のためのパラメータの再学習は、膨大なマシンパワーと電力を必要とする。ユーザーレベルで手を出すことは稀で、ほぼ言語モデルを提供する側(大企業・大学・研究所)が行っている。
ユーザーができるのは、提供されたモデルの選択肢の中から、より大規模なモデルを選択することである。

2. 60%～90%の精度を得るにはプロンプトエンジニアリング(ファインチューン)が本命
大規模言語モデルが学習に使っている「穴埋め問題」に立ち返って考えてみよう。


「母親は花子を叱った「○○○なさい！」」

上記の情報だけでは、早くしなさい」「静かにしなさい」「片付けなさい」などいろいろな可能性があり、絞り込めない。


「花子は30分経ってもご飯を食べ終わっていなかった。母親は花子を叱った「○○○なさい！」」
「電話をしているのに花子は騒いでいる。母親は花子を叱った「○○○なさい！」」
「ご飯の時間なのに花子はおもちゃを出しっぱなし。母親は花子を叱った「○○○なさい！」」

プロンプトを補うということは、前後の文脈や手がかりを追加するということで、ChatGPTは文脈の情報を使って、より的確に穴埋め問題を解くことができるのである。
その他、プロンプトの最後の方に重要な情報を記述した方が、解答の精度が向上する。
言語生成AIの入力文、最初と最後に“重要情報”を入れた方が良い結果に　米スタンフォード大などが検証
ChatGPTが生成したとばれないようにするためには、「文語調で解答すること」「格式高く解答すること」といったような指示を入れると良い
GPT検出ソフト、非ネイティブの英語小論文の大半をAI生成と誤判定
など用途に応じた様々な「コツ」が調べられて論文やネットで公開されている。

プロンプトエンジニアリングに関連して、より効果の高い方法がある。その方法は"Chain of thought"論文で提示された手法「思考連鎖教授によるファインチューン」である。
ファインチューンとは、プロンプトとプロンプトに対して生成すべき理想的な回答テキストをペアにしたデータを数十～数十万(数は問題の難易度による)用意して、 大規模言語モデルのごく一部の層の学習のみをやり直す処理である。
大規模言語モデルのパラメータの大部分は固定したままで、一部だけを再学習するすることで、低い計算コストでニューラルネットワークの精度を向上させるテクニックの一つである。

"Chain of thought"論文の研究におり、ユーザーの入力(質問文や依頼文)に対して、いきなり回答を生成するのではなく、回答に至る思考過程を補うことで回答の精度が著しく向上することが判明している。
ユーザーが思考過程を補うのは大きな労力が必要となるが、繰り返すうちに大規模言語モデルが「思考過程の補い方」を学習するのである。
10,000件ほどの問題に対して、解答までの思考過程を補うだけで、大規模言語モデル GPT-3の1750億パラメータのモデルで10%以下だった算数文章題の正答率が30%台に、 大規模言語モデル PaLMの5400億パラメータのモデルで30%台だった正答率が50%台に向上している。


3. 90%～の精度を得る方法＝推論・計算部分のフック(横取り)
詳細は上記のリンク先において説明するが、既存のソフトウェアに、大規模言語モデルを利用した言語的なインターフェイスを付ける組み合わせシステムである。
既存のソフトウェアを前提としているため、用途の限定されたチャットボットということになる。
金銭が関わる請求書や見積もりの発行、財務諸表の作成、家庭教師代わりの教育ソフトなどが相当する。医療分野や法律分野での利用には 現状では専門家のチェックが欠かせないが、将来的に全てAIに任せるタスクも生まれるかも知れない。

たとえば、数式処理システムを考える。
2023年5月時点でChatGPT(GPT-3.5と同等規模)に問い合わせた結果、以下のように少し複雑になると頓珍漢な回答を生成する。


プロンプト：22-(4*5-3*X)=20のXはいくつでしょうか

ChatGPT：式を整理すると、 22-20+15X=20 2+15X=20 15X=18 X=1.2
        よって、Xは1.2です。

プロンプト：22-(4*5-3*X)=20のXはいくつでしょうか

ChatGPT：式を整理すると、 22-20+X=20 X=-2
        よって、Xは-2です。 

そこで、既存の数式処理ソフトウェアを使うことを前提とする。数式処理ソフトウェアは、(連立)方程式を解いたり、単位を変換したり、時には文章題を解いたりするソフトである。
問題文の解析をChatGPTで行い連立方程式のように、数式処理システムの入力に合致するようなフォーマットのテキストを出力する。この場合は数式の部分である。「はいくつでしょうか」を取り除いたり、 "×"を"*"に置換したりする。
数式処理システムによって方程式は処理されて、出力である"X=6"と式の展開過程を、ChatGPTのプロンプトとして、テキストを生成、ユーザーに提示する。

１．大規模化による精度向上(ユーザーによる参入は困難)

ChatGPTならGPT4モデル

算数の文章題を解いてください。
ある４２人のクラスで国語と算数のテストを行いました。
テストの結果を集計すると算数の合格者は２８人で、国語の合格者は２５人、
両教科とも合格した者は１７人でした。
両教科とも不合格だった者は何にんでしょうか？

/* GPT-3.5では不正解 */
両教科とも合格した者は17人であり、算数の合格者は28人、
国語の合格者は25人です。
両教科とも合格している人数よりも算数の合格者数や国語の
合格者数の方が多いことから、
両教科とも不合格だった者の数は次のように計算できます。
算数の合格者数（28人） + 国語の合格者数（25人） - 
　両教科とも合格した者の数（17人） = 36人
したがって、両教科とも不合格だった者は36人です。

/* GPT-4では正解 */
この問題は集合の問題として解くことができます。
まず、全体の学生数は42人です。
次に、算数の合格者は28人、国語の合格者は25人、
そして両教科ともに合格した学生は17人と与えられています。
しかし、両教科ともに合格した学生の数（17人）は、
算数の合格者の数と国語の合格者の数にそれぞれ含まれています。
したがって、算数と国語の合格者の総数は、28人と25人を足した数
（53人）から17人を引いた数、つまり36人となります。
全体の学生数42人から、算数または国語のどちらか一方でも
合格した学生の数（36人）を引くと、両教科ともに不合格だった
学生の数が求まります。
したがって、両教科ともに不合格だった学生の数は、
42人 - 36人 = 6人となります。

コラム「ぬるぽ」「ガッ！」

　３文字以内で返答してください
  ぬるぽ
  ゲッ！

　３文字以内で返答してください
  ぬるぽ
  ガッ

大規模化の限界

1. 学習対象のテキストの規模が飽和状態にある
大規模化の一つの要素である学習テキストの量が増えない。現状で数TBのテキストを使って学習している。 日本語wikipediaのテキストは、2023年時点で4GB弱なので、実に日本語wikipediaの数百倍のテキストを使って学習している。 今後もwebに集積していくテキストを増やしていくことが考えられるが、以下の懸念がある。

• テキスト情報のスクレイピングに対する拒絶反応
2023年7月にtwitterがスクレイピング対策と称して閲覧数の制限を行った。テキストデータが宝の山になることが分かった現在、テキストデータの囲い込みが広がる可能性がある。

• 非合法テキストデータに関連する訴訟の増加
記事「OpenAI、作家から訴えられる--「ChatGPT」の訓練における作品の無断使用で」にあるようにテキストデータの著作権者が 非合法のテキストデータをOpenAI社が収集して学習に使っているという訴えがあった。画像生成AIでも同様の動きがある。ChatGPTで小説のタイトルから要約や感想文の生成が行うことができる。 著作権が切れていない小説でも可能である。それは、著作権が切れていない小説のテキストデータを学習に使っていることを示している。

• 高品質の学習データの枯渇
web上のテキストデータの総量の枯渇も指摘されている。「AIの学習データが底をつく」'2026年問題'の衝撃度とその対策とは？
さらに、大きな問題を次に挙げる。

2. 今後の人類社会に追加されるテキストにはAIが生成したものが急速に増える
AIが学習済みのテキストを学習データに加えると「過学習」という弊害が生じることが報告されている。
生成AIに“生成AIが作った文章”を学習させ続けるとどうなる？　「役立たずになる」と英国チームが報告 この問題は、AIにとって致命的に深刻である。大規模言語モデルが作ったテキストを、大規模言語モデルで学習すると、欠点が累積的に拡大していく。学習を繰り返すことで、AIがどんどん「バカ」 になるのである。画像の生成モデルにおいても同様の現象が観察されている。 生成AI汚染が進む前に、早急に人間が作ったテキストとAIが作ったテキストを区別できるようなマークを設定しないと、今後生成AIの学習対象テキストを増やすことは絶望的になる。
この問題の深刻さ故に、生成AI元年である2022年時点の(生成AI汚染されていない)テキストや画像をアーカイブとして残しておくことが、生成AI開発者にとっても定石となっている。
2023年以降の学習に追加されるテキストは、明らかに人間が作ったテキストだと分かる、ごく少数のものに限定される可能性がある。

3. パラメータ増大に伴う計算量の増加と必要な電力の増大
今の手法では、並列処理をしたとしても一つの出力を得るまでに数十秒かかる可能性がある。またパラメータ数が増大するほど並列化に必要なGPUの数が増える。

２．60%～90%の精度を得るにはプロンプトエンジニアリング(ファインチューン)が本命

• 指示をできるだけ具体的にする
「つぎの算数文章題を解いてください」に続けて文章題を解かせても、いきなり解答を返してきたりする。
「つぎの文章題の解き方を３～５つの文章で説明してください」に続けて文章題を解かせることで、方程式を使って解くプロセスを説明。
「つぎの文章題の解き方を３～５つの文章で、小学生にでも分かるように説明してください」でも、たまに方程式を使って解くプロセスを説明。
「つぎの文章題の解き方を３～５つの文章で、小学生にでも分かるように方程式を使わないで説明してください」で、方程式を使わないで解くプロセスを説明。

• してはいけないことより、すべきことで指示
「つぎの文章題の解き方を３～５つの文章で、小学生にでも分かるように説明してください。方程式は避けるべきです。」で、方程式を使わないで解くプロセスを説明。

• 重要なことはプロンプトの最後の方に記述する
トークンの近接性も精度に大きく影響する。ただし、後の方が優先されると言うことには欠点もある。ChatGPTで模擬裁判をやると、裁判は最後に被告人側の最終弁論・陳述があるため 何を裁判しても無罪になってしまうという結果になった。「何やっても無罪しか出ない…」ChatGPT模擬裁判、企画の東大生がピンチ直面 対照実験として論告・求刑を後にすると、逆に全て有罪となってしまった。対応策としては、最後の方で被告人側と検察側の主張を混在させるなど、実際の裁判の形式とは異なる方法などが有効だが、決め手にはならないようである。

• few shotプロンプト
いくつかの変換の例を上げ、最後に問題を解かせる。
変換に関する知識が必要となる。
カタカナ外来語を日本語に直すfew shotプロンプトの例は以下のようになる。

アダルト|おとな
チルドレン|こども
カンパニー|


アダルト|おとな
チルドレン|こども
カンパニー|企業

数字の語呂合わせの変換は、ヒントのプロンプトを数十個与えてもうまくいかない
2023年6月時点では、few shotプロンプトでは、語呂合わせには対応できないようである。
同様に、複数の数字が並んだ数列から、一定の条件に合致する(奇数、偶数のような簡単な条件も含む)数だけを抜き出すような問題などもfew shotプロンプトでは対応できない。


語呂合わせで数字を考えてください。
いちいち|11
はいく|819
よろしく|4649
いいふうふ|

いちいち|11
はいく|819
よろしく|4649
いいふうふ|361

• Chain of thoughtプロンプトによるファインチューン
"Jason Wei, Xuezhi Wang, Dale Schuurmans, Maarten Bosma, Ed Chi, Quoc Le, and Denny Zhou. Chain of thought prompting elicits reasoning in large language models. arXiv preprint arXiv:2201.11903, 2022." という論文で、算数文章題や常識に関する推論において、問題のテキストから直接回答のテキストを生成するよりも、解決過程＋回答としてファインチューンした方が精度が上がるという実験結果を発表した。
ファインチューンとは、大規模言語モデルのパラメータは最後の出力層を除いてそのまま使い、最後の出力層のパラメータだけを再学習するという方式で、計算コストも小さいので、ChatGPTでもエンドユーザーにAPIが 解放されている。
たとえば、以下のような問題に対して、


つるとかめが合計20匹います。
足の数が合わせて54本のときかめは何匹いますか？

「かめは７匹です」という解答を求めようとしても、GPT-3ベース(1750億パラメータの)の大規模言語モデルでは正答率は数パーセントである。そこで、


つるとかめが合計20匹います。
足の数が合わせて54本のときかめは何匹いますか？
20匹すべてがかめだとすると、足の数は合わせて80本となります。
かめ１匹がつるになると足の数は合わせて78本となり、2本減ります。
実際の足の数は54本なので、(80-54)/2=13匹がつるとなります。
かめは20-13=7匹となります。
/* 上記の解き方は、方程式を使わない小学生向けの解き方となります。
つるの助数詞は「羽」ですが、問題文に「羽」が出てこないので
「匹」に統一しています */

というような、解答に至る解決過程を数十題分用意して、ファインチューンすることで、正答率が数倍に上がる。
原論文では、つるかめ算のような難易度の高い問題ではなく、四則演算を使った未知数ひとつの算数文章題を対象としている。 10,000題の学習テキストを準備してファインチューンすることで、もともとの正答率が一桁だったものが30%以上まで(5400億パラメータのPaLMという大規模言語モデルでは50%以上まで)上がっている。

• Chain of thoughtの発展形 Tree of thoughtなど
2023年に入ってからChain of thoughtを複数組み合わせた方式が提案されている。木のように組み合わせたり、グラフネットワークを構成したりなど。 そして、複数の生成テキストから最も良いものを選択して提示する。
一部のタスクでは高いパフォーマンスを達成しているが、Chain of thoughtに沿ったテキスト生成を多数回呼び出す必要があるため生成のための計算コストが非常に高い。
計算コストを高くすれば精度も上がるのは当然である。
また、複数の異なる思考過程のテキストを用意するという構成が複雑すぎて、各分野の専門家であるプロンプトエンジニアの作業が煩雑になる。といった批判があり本稿でもこれ以上の言及はしない。

ChatGPT+GPT-4 VS Bing

列車Aが列車Bに追いつき、追い越すためには、
列車Aは列車Bの長さと列車A自身の長さを合わせた距離
を進む必要があります。
それは、200m（列車Aの長さ）と150m（列車Bの長さ）を
合わせた350mです。
しかし、列車Bも前進しているため、列車Aが追いつく速
度は、列車AとBの速度差となります。
それは、20m/秒（列車Aの速度）と15m/秒（列車Bの速度）
の差、つまり5m/秒です。
したがって、350mを5m/秒で進む時間は、
350m ÷ 5m/秒 = 70秒です。
従って、列車Aが列車Bを完全に追い越すまでには70秒
かかることになります。

列車Aが秒速20mで、長さ200mの列車Aが長さ150mの列車Bに
追いつくまでにかかる時間は、45秒です1
列車Aが列車Bに追いつくまでの距離は、
列車Aの長さ+列車Bの長さです。
列車Aを止めて考えると、列車Bが時速100-20=80km/hで
走行していることになります。
列車Bが追いつくまでにかかる時間は、距離÷速度で求め
られます。よって、答えは45秒です 。

しんのすけが5才、みさえが29才の現在から数えて、
みさえの年齢がしんのすけの3倍になるのは何年後か
計算しましょう。
みさえの年齢を3倍した数値がしんのすけの年齢になるとき、
その年数を求めます。
式を立ててみると、以下のようになります：
みさえの年齢（29年 + x年） = しんのすけの年齢（5年 + x年） * 3
この等式を解くと、以下のようになります：

29 + x = 3 * (5 + x)
29 + x = 15 + 3x
29 - 15 = 3x - x
14 = 2x
x = 7

したがって、みさえの年齢がしんのすけの3倍になるのは7年後となります。

小学生向けに方程式を使わないで説明してください
もちろんです。小学生向けにシンプルな方法で説明しますね。

しんのすけが5才で、みさえが29才ですね。みさえの年齢が
しんのすけの3倍になるまでには何年かかるか考えてみましょう。
みさえとしんのすけが同じ歳を取るのは1年後ですね。
それから、みさえの年齢がしんのすけの年齢の3倍になるまで、
しんのすけはどれくらい歳を取る必要があるか考えます。
みさえの年齢がしんのすけの3倍になるということは、しんのす
けの年齢を3倍した数字がみさえの年齢になるということです。
つまり、しんのすけが6歳になったとき、みさえは18歳（6歳x3）
にならなければなりません。
しかし、その時にはみさえはすでに30歳です。それはすでに
しんのすけの年齢の5倍です。
次に、しんのすけが7歳になったとき、みさえは21歳（7歳x3）
にならなければなりません。
しかし、その時にはみさえはすでに31歳になっています。
これもまた、しんのすけの年齢の4倍以上です。
この計算を続けてみると、しんのすけが12歳になったとき、
みさえは36歳（12歳x3）になるべきです。
その時にはみさえは36歳になっています。
それでは、この条件が満たされるまでに何年かかるかを考えて
みましょう。
しんのすけが現在5歳で、12歳になるまでには7年かかります。
したがって、みさえの年齢がしんのすけの3倍になるのは
7年後となります。

この問題は、年齢の増加を考えることで解決できます。
しんのすけとみさえの年齢がそれぞれ増加すると、みさえの
年齢はしんのすけの3倍になります。
みさえの年齢がしんのすけの3倍になるまでの時間をx年とすると、
しんのすけの年齢は5+x歳、みさえの年齢は29+x歳です。
みさえの年齢がしんのすけの3倍になることから、
29+x＝3(5+x) 29+x＝15+3x 2x＝14 x＝7
したがって、みさえの年齢がしんのすけの3倍になるのは、7年後です。
結論として、みさえの年齢がしんのすけの3倍になるのは7年後です。

小学生向けに方程式を使わないで説明してください
もちろんです。方程式を使わずに、次のように考えることができます。

現在、しんのすけは5才、みさえは29才です。
1年後、しんのすけは6才、みさえは30才になります。
2年後、しんのすけは7才、みさえは31才になります。
このように、年々年齢が増加していきます。
みさえの年齢がしんのすけの3倍になるまで
何年かかるかを考えます。
7年後、しんのすけは12才、みさえは36才になります。
このとき、みさえの年齢はしんのすけの3倍になります。
したがって、みさえの年齢がしんのすけの3倍になるのは、
7年後です。
結論として、みさえの年齢がしんのすけの3倍になるのは
7年後です。

小学生にも分かるように解いてください。
1周30kmの湖の周りを、プリウスは時速60kmで、
フェラーリは時速240kmで、同じ場所から同じ方向に進みました。
フェラーリがプリウスを追い越すのは、出発してから何分後でしょう。

プリウスとフェラーリが1周30kmの湖の周りを走るという
問題ですね。
プリウスが時速60km、フェラーリが時速240kmで進む場合、
フェラーリがプリウスを追い越すのは出発してから何分後か
を考えます。
まず、時速60kmで走るということは、1時間に60km走るとい
うことです。
同様に、時速240kmで走るということは、1時間に240km走る
ということです。そして、1時間は60分です。
それでは、それぞれが1分間にどれくらい走るか計算してみましょう。

プリウスは1時間に60km走るので、
1分には60km ÷ 60分 = 1km走ります。
一方、フェラーリは1時間に240km走るので、
1分には240km ÷ 60分 = 4km走ります。
フェラーリはプリウスよりも早く走るので、
プリウスが1周分（30km）走り終わる前にフェラーリは追い越します。
実際には、フェラーリはプリウスが湖の
半周（30km ÷ 2 = 15km）を走る前に追い越します。
なぜなら、フェラーリがプリウスを追い越すためには、
フェラーリが湖の1周（30km）を走り、その間にプリウスが湖の
半周（15km）を走る必要があるからです。
それでは、フェラーリが湖の1周（30km）を走るのにどれくらいの
時間がかかるかを計算します。
フェラーリは1分に4km走るので、30kmを走るのには
30km ÷ 4km/分 = 7.5分かかります。
したがって、フェラーリがプリウスを追い越すのは出発してから
7.5分後となります。

この問題は、速さ、距離、時間の関係を使用して解決できます。
速さは距離を時間で割ったものです。つまり、
距離＝速さ×時間です。
プリウスは時速60kmで進みます。つまり、1時間で60km進みます。
1分で60km÷60分＝1km進みます。
フェラーリは時速240kmで進みます。つまり、1時間で240km進みます。
1分で240km÷60分＝4km進みます。
フェラーリがプリウスを追い越すまでの時間をx分とすると、
フェラーリが進んだ距離は4x km、プリウスが進んだ距離はx kmです。
フェラーリがプリウスを追い越すとき、フェラーリが進んだ距離は
プリウスが進んだ距離より30km多くなります。
つまり、4x＝x+30 3x＝30 x＝10
したがって、フェラーリがプリウスを追い越すのは、
出発してから10分後です。
結論として、フェラーリがプリウスを追い越すのは、
出発してから10分後です。

さいころを１回ふって奇数の目が出ると３０点、
偶数の目が出ると１０点もらえます。これを２０回繰り返すと、
得点は４６０点になった、奇数の目が出た回数を求めなさい。

/* 2023/06/30では不正解 */
奇数の目が出たときの点数を30点、
偶数の目が出たときの点数を10点としましょう。
この場合、奇数の目が出た回数をx、偶数の目が出た回数をyとします。
そして全体の試行回数が20回であることから、
次の等式を立てることができます：
x + y = 20 (1)

また、総得点が460点になったという条件から、
次の等式も立てることができます：
30x + 10y = 460 (2)

等式 (2) から10をくくり出すと：
10(x + y) = 460
よって：
x + y = 46 (3)
しかし、等式 (1) と (3) が矛盾しています。
20回の試行で460点を得ることは不可能で、
問題文に間違いがあるかもしれません。
再度問題文をご確認いただけますか？

/* 2023/07/10では正解！ */
さいころの出目が奇数なら30点、偶数なら10点というゲームですね。
20回試行して合計得点が460点になる場合を考えます。

奇数の回数をx、偶数の回数をyとします。
xとyは以下の2つの方程式を満たすはずです。
方程式1: x + y = 20
この方程式はさいころを振った回数が20回であることを
示しています。

方程式2: 30x + 10y = 460
この方程式は得点が合計460点であることを示しています。
方程式2を整理すると、3x + y = 46になります。
これらの方程式を解くために方程式1から方程式2を引くと、
3x + y - (x + y) = 46 - 20
これを整理すると、
2x = 26
x = 26 / 2
よって、x = 13 となります。
したがって、さいころを振って奇数の目が出た回数は13回です。

方程式を使わないで解いてください
略(上記の生成テキストとほぼ同じ)

この問題は、線形方程式を使用して解決できます。
奇数の目が出た回数をx、偶数の目が出た回数をyとすると、
次のような方程式が得られます。

x + y = 20 (1) 30x + 10y = 460 (2)

(1)式から、y = 20 - x (2)式に代入すると、
30x + 10(20 - x) = 460 30x + 200 - 10x = 460 20x = 260 x = 13

したがって、奇数の目が出た回数は13回です。

方程式を使わないで解いてください
もちろんです。方程式を使わずに、
次のように考えることができます。

さいころを１回ふって、奇数の目が出ると３０点、
偶数の目が出ると１０点もらえます。
つまり、奇数の目が出ると偶数の目が出た場合より
２０点多くもらえます。

２０回繰り返して、得点は４６０点になりました。
もし、すべての回で偶数の目が出た場合、
得点は２０×１０＝２００点になります。
しかし、実際の得点は４６０点なので、
２００点より２６０点多くなっています。

奇数の目が出ると偶数の目が出た場合より２０点多く
もらえるので、２６０÷２０＝１３回、奇数の目が出た
と考えられます。
したがって、奇数の目が出た回数は１３回です。


方程式を使わないで解いてください(別解)
さいころを振って奇数の目が出ると30点、
偶数の目が出ると10点もらえるとのことです。
20回振って合計が460点となる場合、それぞれの
さいころの目が出る回数を求めるという問題ですね。

まず、全てのさいころの出目が偶数である場合を考えます。
全て偶数だとすると、10点が20回得られ、合計は200点となります。

しかし、実際の合計得点は460点なので、その差分である
260点分は奇数のさいころの目が出ていた回数によるものです。

奇数のさいころの目が出ると30点、
偶数のさいころの目が出ると10点なので、その差は20点です。
つまり、一回奇数が出るごとに20点ずつ得点が増えると
考えることができます。

そのため、260点は20点ずつ増えた回数と等しいです。
よって、260点 / 20点 = 13回となります。

したがって、奇数のさいころの目が出た回数は13回です。

ファインチューンのサンプルプロジェクト

長さ200mの列車が、時速72kmで走行しています。
この列車が一定の速度でトンネルを通過するとき、
トンネルに入り始めてから完全にトンネルを出るまでに
4分20秒秒かかりました。
トンネルの長さは何mでしょうか？

prompt
方程式を使わないで、小学生にも分かるように解答してください。
長さ200mの列車が、時速72kmで走行しています。
この列車が一定の速度でトンネルを通過するとき、
トンネルに入り始めてから完全にトンネルを出るまでに
4分20秒秒かかりました。
トンネルの長さは何mでしょうか？
tunetext
[トンネル,入り始め,完全に,出る]
[200mの列車,時速72km,4分20秒]　
[トンネルの長さは何m]
列車の速度は秒速に直すと20m/秒です。
4分20秒で進む距離は20*260=5200mとなります。
進む距離は列車の先頭がトンネルに入ってから列車の末尾が
トンネルを出るまでなので、
トンネルの長さ+列車の長さと等しくなります。
したがってトンネルの長さは5000mです。
答え 5000m

プロンプトエンジニアリング(ファインチューン)の限界

３．90%～の精度を得る方法＝既存プログラムとの組み合わせ

• ユーザーの入力＝プロンプトを大規模言語モデルで「別プログラム」の入力データに変換する。
• 「別プログラム」がデータを処理して大規模言語モデルのプロンプトを出力する
• 大規模言語モデルが「別プログラム」の出力したプロンプトをテキストに変換してユーザーに提示する

高速道路に車が並んでいます。 
渋滞の最初の 15 分間に数台の車が通り抜け、
残りの 15 分間にさらに 20 台の車が通り抜けます。 
列から 5 台の車が出口を出るので、
渋滞を通り抜ける必要はありません。 
高速道路に元々 30 台の車があった場合、
最初の 15 分間に何台の車が渋滞を抜けましたか?

大規模言語モデルの人間よりも優れた読解力、文章生成能力を利用する

既存プログラムとの組み合わせのサンプルプロジェクト

1. ChatGPTにより、入力プロンプト＝算数文章題をPrologによる算数文章題ソルバの入力中間表現にするためのChatGPTのファインチューン。
2. Prologのソルバを、ChatGPT向けの入出力にフィットするように改良する。
3. 算数文章題の出力中間表現を、ユーザーに提示するテキストに変換するためのChatGPTのファインチューン

top_unit(sum,8,["ツル","カメ"],["匹","匹"]).
top_attr(sum,26,"足の数","本").
howmany(["ツル","カメ"]).

generate([全てを,ツル,に置き換えると,足の数,は,16,本,になります。]).
generate([1,羽,が,カメ,になると、,足の数,は,2,本,増えます。]).
generate([5,羽,が,カメ,になると、,足の数,は,10,本,増えて,26,本,になります]).
generate([答えは,ツル,3,羽,カメ,5,匹,です]).