ブログ

Mar 17, 2024

ChatGPT について不安ですか? ChatGPT をハンマーで試してみる

ブルース・シュナイアー ネイサン・サンダース GPT-4 がリリースされてからわずか 2 週間後の昨年 3 月、マイクロソフトの研究者は、何百万もの API をコンパイルする計画を密かに発表しました。

ブルース・シュナイアー ネイサン・サンダース

GPT-4 がリリースされてからわずか 2 週間後の昨年 3 月、マイクロソフトの研究者は、何百万もの API (ピザの注文から物理方程式の解法、リビング ルームのテレビの制御まで、あらゆることを実行できるツール) をコンパイルする計画を密かに発表しました。大規模言語モデル (LLM) からアクセスできるようになる概要。 これは、LLM にツールの操作方法を教えるための最良の方法を見つけるための産業界と学界の競争における 1 つのマイルストーンにすぎません。これにより、これまでに見られたどの目覚ましい進歩よりも AI の可能性が大幅に高まります。

Microsoft プロジェクトは、AI にあらゆるデジタル ツールの使い方を一度に教えること、つまり賢くて効率的なアプローチを教えることを目的としています。 現在、LLM は、ユーザーが食事の好みを説明し、レストランに電話するときに使用できる会話の草案を作成できれば、ピザのトッピングをかなりうまく提案できます。 しかし、ほとんどの AI ツールは、オンラインであっても注文することができません。 対照的に、Google の 7 年前からあるアシスタント ツールは、電話で音声を合成したり、オンライン注文フォームに記入したりすることはできますが、レストランを選んだり、注文を推測したりすることはできません。 ただし、これらの機能を組み合わせることで、ツールを使用する AI がすべてを実行できるようになります。 過去の会話や、カロリー計算機、レストランのメニューデータベース、デジタル決済ウォレットなどのツールにアクセスできるLLMは、あなたが減量しようとしているので低カロリーのオプションが必要であると判断し、好みのトッピングを備えた最寄りのレストランを見つけることができる可能性があります。を選択し、配達注文を出します。 あなたの支払い履歴にアクセスできれば、あなたが普段どれほど気前よくチップを払っているかを推測することさえできるでしょう。 スマートウォッチやフィットネストラッカーのセンサーにアクセスできれば、血糖値が下がったことを感知して、お腹が空いていることに気づく前にパイを注文できるかもしれません。

ネイサン・サンダースハーバード大学バークマン クライン センターに所属するデータ サイエンティストです。 彼は民主主義に対する AI の影響について幅広く執筆しています。

ブルース・シュナイアーセキュリティ技術者です。 彼は、「ハッカーの心: 富裕層と権力者が社会のルールをどのように曲げるか、そしてそれらを元に戻す方法」など、12 冊以上の本を執筆しています。 彼はハーバード大学ケネディスクールで教鞭をとり、マサチューセッツ州に住んでいます。

おそらく、ツール使用の最も魅力的な潜在的な用途は、AI に自己改善能力を与えるものでしょう。 たとえば、モデルの元のトレーニングに例が含まれるとは誰も考えていなかった古代ローマ法のいくつかの側面を解釈する助けをチャットボットに求めたとします。 学術データベースを検索し、独自のトレーニング プロセスを開始する権限を与えられた LLM は、答える前にローマ法の理解を微調整することができます。 特殊なツールにアクセスすると、このようなモデル自体をよりよく説明できる可能性もあります。 GPT-4 のような LLM は、尋ねられたときにすでにかなりうまく推論を説明していますが、これらの説明は「ブラック ボックス」から出てくるため、エラーや幻覚に対して脆弱です。 しかし、ツールを使用する LLM は、自身の内部を分析し、自身の推論の経験的評価と、なぜそのような答えを導き出したのかについての決定論的な説明を提供する可能性があります。

人間のフィードバックを求めるためのツールへのアクセスが与えられれば、ツールを使用する LLM は、まだ Web 上に取り込まれていない専門的な知識を生成することもできます。 Reddit や Quora に質問を投稿したり、Amazon の Mechanical Turk の人間にタスクを委任したりすることができます。 調査研究を行って人間の好みに関するデータを探し、ユーザーに直接答えを提供したり、将来的に質問にうまく答えられるように独自のトレーニングを微調整したりすることもできます。 時間の経過とともに、ツールを使用する AI は、ツールを使用する人間によく似てくるようになるかもしれません。 LLM は人間のプログラマよりもはるかに速くコードを生成できるため、コンピュータのシステムやサービスを簡単に操作できます。 また、人間と同じようにコンピュータのキーボードとカーソルを使用して、ユーザーが実行するあらゆるプログラムを使用できるようにすることもできます。 また、ツールを使用して質問し、調査を実施し、自身に組み込むコードを作成することで、自身の機能を向上させることもできます。