このところ人工知能（AI））に対する関心が高まっている。AIは、これからますます産業(yè)や社會(huì)で決定的な役割りを果たすとされる。AIに何を期待できるのか、逆にAIの危険性はどこに潛むのか。中國(guó)メディアの中國(guó)新聞社はこのほど、カリフォルニア工科大學(xué)のヤセル?アブ?モスタファ教授を取材して、AIについていろいろと質(zhì)問(wèn)した。モスタファ教授はエジプト系米國(guó)人で、コンピューターサイエンスの専門(mén)家として著名な存在だ。以下はモスタファ教授による説明の主要部分に若干の內(nèi)容を追加するなどで再構(gòu)成したものだ。

イーロン?マスクの懸念は感情的で実情と乖離

米実業(yè)家のイーロン?マスク氏らはこの春、強(qiáng)力なAIの開(kāi)発を6カ月停止することを求める連名の公開(kāi)書(shū)簡(jiǎn)を発表した。意図は良いと思うが、研究開(kāi)発の6カ月停止を順守する企業(yè)はいないので、現(xiàn)実的な効果はない。この動(dòng)きは、AIが「急成長(zhǎng)しすぎている」ことへの無(wú)意識(shí)の反応であり、深く考えられた行為ではないと思う。私個(gè)人としては、強(qiáng)力なAIモデルの研究開(kāi)発を一時(shí)停止することには賛同できない。今やるべきことは一時(shí)停止ではなく、いかにしてその「悪しき使用」を食い止めるかだ。だから私は公開(kāi)書(shū)簡(jiǎn)に署名しなかった。

AIをより強(qiáng)力に監(jiān)督するにはどうすればよいのか。政府はAIの利用を、法的措置を含めて制限する必要がある。歐州連合（EU）のAI法案はその端緒だ。法律は、AIへの恐怖や想像上のリスクに対処するために急いで制定されるのではなく、慎重に検討されなければならない。今のところ、熟慮され効果的に実行されている提案や法規(guī)は見(jiàn)られない。

AIを人間の価値観や道徳規(guī)範(fàn)に真に合致させることは、ひとえにAIシステムの開(kāi)発者と利用者にかかっている。AIに道徳感や悪意はなく、命令に従い、訓(xùn)練されたことを?qū)g行するだけだ。人が偏見(jiàn)に満ちたデータを與えれば、偏見(jiàn)に満ちたAIが誕生する。そのためChatGPTなどの開(kāi)発を手掛けるOpenAIは、良いデータを選んだりChatGPTが悪意ある質(zhì)問(wèn)に答えないように調(diào)整し続ける必要がある。

問(wèn)題を複雑にしているのは、開(kāi)発者がシステム全體を「人としての価値観に適合する」ように設(shè)計(jì)しても、さまざまな方向性でAIを使う人が出てくることだ。開(kāi)発者は利用者をコントロールできない。そのため、AIについては、設(shè)計(jì)よりも応用の方がはるかに複雑で危険だ。

人間社會(huì)で善し悪しの基準(zhǔn)は明確でない。AlphaGoのようなゲーム用AIならば「よい行為」を上手に定義できる。ルールに従って勝つことができれば、それが「よい行為」だ。しかし、良いと悪いを判斷する客観的なルールが不足する狀況でAIを訓(xùn)練し、システム自身に「良い行動(dòng)」とは何かを理解させることは非常に難しい。

マスク氏らの公開(kāi)書(shū)簡(jiǎn)は「制御不能な競(jìng)爭(zhēng)」という感情的な表現(xiàn)を使った。しかし、近い將來(lái)のAI産業(yè)では、非常に強(qiáng)力な2、3種のAIツールが世界市場(chǎng)を寡占する可能性が高い。なぜなら、開(kāi)発に莫大なコストがかかるからだ?，F(xiàn)在の最新のビッグモデルAIの進(jìn)展はすべて、大學(xué)ではなく企業(yè)からもたらされているのもそのためだ。

もし今後、革新的な計(jì)算方法の出現(xiàn)などでコストを10億ドル（約1400億円）から1000萬(wàn)ドル（約14億円）に下げることができる斬新なモデルが登場(chǎng)すれば、その時(shí)點(diǎn)で多くの開(kāi)発者が參畫(huà)することになるだろう。

AIは「意識(shí)を持っているように見(jiàn)える」ようにはなる

私のある友人がChatGPTに「アブ?ムスタファについて、何を知っていますか？」と尋ねた。ChatGPTは私に関する詳細(xì)な経歴と人物の小伝をリストアップした。最初の部分は非常に専門(mén)的に見(jiàn)えるが、次の部分では単純なミス、例えば私の大學(xué)を間違えるなどが多かった。これはChatGPTの本質(zhì)をよく示している。つまり、ある意味では、すべての情報(bào)を相互に関連づける特殊な方法でまとめているだけだ。

現(xiàn)在はAIの発展が人々を興奮させている。しかし業(yè)界內(nèi)でも、本當(dāng)にすべての技術(shù)の詳細(xì)を理解している人は少ない。OpenAIやGoogleなどでビッグモデルのトレーニングに參加している人だけがはっきりと理解している。しかし彼らの外部との情報(bào)共有は限られている。

AIについては、「常識(shí)の獲得」や「自己反省の能力」についても関心がもたれている。AIが自己反省能力を発達(dá)させるとすれば、それは膨大な訓(xùn)練がもたらしたものであり、十分な數(shù)の「分散して斷片的なスマートタスク」を統(tǒng)合することで実現(xiàn)するに違いない。例えば1000個(gè)のChatGPTを作って、このうちの一つは言語(yǔ)に興味を持たせ、一つは數(shù)學(xué)の問(wèn)題を処理し、一つは視覚認(rèn)識(shí)を擔(dān)當(dāng)し……。その「能力」が人間の知的関心のほぼすべての領(lǐng)域をカバーし、さらに一つに統(tǒng)合するならば、必ず「汎用的な知能」を表現(xiàn)できるというのが「マルチモーダル機(jī)械學(xué)習(xí)」の本質(zhì)だ。

しかしそれは表面上のことであり、自己反省力や汎用知能を備えているように見(jiàn)えるだけだ。ある意味でその巨大システムは「外観」を模倣するだけだ。

問(wèn)題の鍵は、「汎用人工知能」（AGI）とはそもそも何なのかということだ。AGIの概念について合意を形成し、それを正確なコンピューター言語(yǔ)で定義し、明確な検証ルールを策定する必要がある。明確な検証ルールがあれば、AGIが出現(xiàn)したのかどうか判斷でき、潛在的な危険は何かを判斷できる。

人間がなぜAGIに関心を持つのかというと、AGI人間性の根本である「自我」の領(lǐng)域に侵入し、「人は唯一無(wú)二の存在」という狀況を打破するように思えるからだ。そのためAGIを語(yǔ)る場(chǎng)合に、人はあまりにも多くの感情を掻き立てられ、場(chǎng)合によっては非現(xiàn)実的な期待や恐怖を覚える。

しかし、その恐怖は知能と自我を混同している。人々は冷靜になになる必要がある。私はAI分野のいかなる技術(shù)進(jìn)歩も「意識(shí)的な実體」、すなわち自我を生み出すことはできないと思う。AIは將來(lái)、「感情や意識(shí)を持っているように見(jiàn)える」ようになるだろう。しかし人間の意識(shí)の定義は科學(xué)の立場(chǎng)からすれば不確かであり、客観的な測(cè)定は不可能だ。

AIの本質(zhì)は「歯車(chē)で動(dòng)くからくり」と同じ

私は自分に意識(shí)があることを分かっている。あなたも同様だ。では愛(ài)とは何か、感情とは何か、悲しみとは何か。私もあなたもそれらを感じることはできる。感情を結(jié)び付けることができる。しかし、これらはすべて人としての経験だ。われわれは、なぜそうなったのかを知らない。

AIは常に無(wú)生物の機(jī)械だ。電子的に構(gòu)成されてはいるが、複雑で精密な歯車(chē)によって動(dòng)くからくり仕掛けと同様だ。複雑なアウトプットにより「そこに奇妙な人がいる」という印象を受けるかもしれないが、そのアウトプットは意識(shí)により生じたものではなく、アルゴリズムによるものだ。

ではなぜ、AIは人と同様な感情を持っていると思えてしまうのか。それは人の判斷の方法による。人が知覚するのは、対象が何であれアウトプットだ。人はそのアウトプットを自らの脳內(nèi)で過(guò)去の記憶や感情などと結(jié)びつけて判斷するからだ。だから、人と同様のアウトプットをするAIがあれば、そのAIが意識(shí)や感情を持つように思えてしまう。

今後はあらゆる業(yè)界が、予想もできない形でAIの発展の恩恵を受けることになるだろう。私は5年前に、AIは20年以?xún)?nèi)に人の通常の知的作業(yè)のほぼすべて、つまり「複雑な作業(yè)をこなすが創(chuàng)造は必要としない知能」に取って代わると言った。自動(dòng)運(yùn)転はその典型例だ。

AIが創(chuàng)造力を発揮するようになるかどうかは、単純な問(wèn)題ではない。例えばAlphaGoの場(chǎng)合、試合に勝つために、人間が想定していなかった防御策を発見(jiàn)する。これが創(chuàng)造なのか、単なる自動(dòng)化の産物なのかは分からない。少なくともAIは膨大な數(shù)の戦略を頃見(jiàn)ている?，F(xiàn)時(shí)點(diǎn)では「AIの創(chuàng)造性」をきちんと定義することは出來(lái)ない。

ただし、AIと共存することにプレッシャーを感じる必要はない。AIは永遠(yuǎn)に人類(lèi)の付屬品だからだ。（構(gòu)成 / 如月隼人）