今日の人工知能技術の基礎を築くのに貢献したコンピューター科学者は、その危険性について警告していますが、それは、それらの危険性が何であるか、またはそれらを防ぐ方法について意見が一致しているという意味ではありません。
AIのゴッドファーザーと呼ばれるジェフリー・ヒントン氏は、水曜日にマサチューセッツ工科大学で開催された会議で、「スマートなものが私たちを裏切ることができる」場合、人類の生存が脅かされる.
 |
Kagaku-sha wa AI no kiken-sei ni tsuite keikoku shite iruga, kaiketsusaku ni tsuite wa dōi shite inai |
75 歳のヒントン氏は、もっと自由に話せるようになるために Google を退職した後、彼が一生をかけて研究してきたコンピューター システムの推論能力について、最近の見方を変えたと語った。
ヒントン氏は、MIT Technology Review の EmTech Digital 会議に出席している聴衆に向けて、自宅からビデオを介して演説し、「これらのことは、これまでにあったすべての小説とマキャベリがこれまでに書いたすべてのものを読むことによって、私たちから学んだことになるでしょう」と述べました。 「彼らが直接レバーを引くことはできなくても、確実に私たちにレバーを引かせることができます。」
「これに対するシンプルな解決策があればいいのにと思いますが、ありません」と彼は付け加えました。 「解決策があるかどうかわかりません。」
AI のパイオニアであり、最高のコンピューター サイエンス賞をヒントンと共同受賞したヨシュア ベンジオ氏は、水曜日に AP 通信に、ChatGPT や関連技術などのチャットボットによってもたらされたヒントン氏の懸念と「ほぼ一致している」と語ったが、単に「私たちは運命にある」と言っても役に立ちません。
モントリオール大学の教授であるベンジオ氏は、「主な違いは、彼は一種の悲観的な人物であり、私はより楽観的な側にいるということです. 「短期的なものも長期的なものも含めて、危険は非常に深刻であり、少数の研究者だけでなく、政府や国民も真剣に受け止める必要があると思います。」
政府が耳を傾けている兆候はたくさんあります。ホワイトハウスは、Google、Microsoft、ChatGPT メーカーの OpenAI の CEO に、木曜日にカマラ・ハリス副大統領と会うよう呼びかけました。関係者は、短期的および長期的なリスクの両方を軽減する方法について率直な議論を行っていると述べています。彼らの技術。ヨーロッパの議員はまた、包括的な新しい AI 規則を可決するための交渉を加速させています。
しかし、最も悲惨な将来の危険についての話はすべて、まだ存在していない超人的なマシンをめぐる誇大宣伝が、ほとんど規制されていない現在の AI 製品に実用的な保護手段を設定する試みから気をそらしているのではないかと懸念する人もいます。「現在の差別の蔓延、憎悪の言葉の蔓延、有害で同意のない女性のポルノ、これらすべての問題の現実から逃れることができるのは特権です」ミッチェル氏も、ゲブル氏が去った後、Google から追い出されました。 「彼はもっと先のことを心配するために、それらすべてをスキップしています。」
Bengio、Hinton、および Facebook の親会社である Meta で働く 3 人目の研究者 Yann LeCun は、ChatGPT などの今日の AI アプリケーションの開発に貢献した人工ニューラル ネットワークの分野でのブレークスルーが評価され、2019 年にチューリング賞を受賞しました。
ベンジオ氏は 3 人のうち唯一、ハイテク大手の職に就かなかった人物であり、雇用市場の不安定化、自動化された兵器、偏ったデータ セットの危険性など、AI の短期的なリスクについて何年も懸念を表明してきました。
しかし、これらの懸念は最近高まっており、ベンジオはイーロン マスクやアップルの共同創設者スティーブ ウォズニアックなどの他のコンピューター サイエンティストやテクノロジー ビジネス リーダーに加わり、OpenAI の最新モデルである GPT-4 よりも強力な AI システムの開発を 6 か月間停止するよう求めています。 .
ベンジオ氏は水曜日、最新の AI 言語モデルは、英国の暗号解読者であり AI のパイオニアであるアラン・チューリング氏が 1950 年に導入した「チューリング テスト」にすでに合格していると考えていると述べました。
「注意を怠ると、劇的な結果をもたらす可能性があるマイルストーンです」とベンジオは言いました。 「私の主な関心事は、民主主義を不安定にする悪意のある目的、サイバー攻撃、偽情報のためにどのように悪用されるかということです。これらのシステムと会話することで、人間と対話していると考えることができます。それらを見つけるのは難しいです。」
研究者が同意しそうにないのは、現在の AI 言語システム (情報を捏造する傾向など、多くの制限がある) が実際に人間より賢くなる方法についてです。
Aidan Gomez は、2017 年の先駆的な論文の共著者の 1 人であり、機械学習システムのパフォーマンス、特にパッセージからの学習方法を改善するために、いわゆる変換テクニック (ChatGPT の末尾の「T」) を導入しました。テキストの。当時 Google でまだ 20 歳のインターンだった Gomez は、会社のカリフォルニア本社のソファに横になって、彼のチームが期限の午前 3 時頃に新聞を発送したときのことを覚えています。
「エイダン、これは非常に大きなものになるでしょう」と彼は、人間のような散文やイメージを生成できる新しいシステムにつながる仕事について、同僚が彼に話したのを覚えています。6年後、ヒントンが投資したCohereと呼ばれる彼自身のAI会社のCEOであるゴメスは、これらのシステムの潜在的なアプリケーションに熱中しているが、彼らの真の能力の「現実から切り離され」、「依存している.想像力と推論の並外れた飛躍に基づいています。」
「これらのモデルが何らかの形で核兵器にアクセスし、ある種の絶滅レベルのイベントを開始するという考えは、生産的な議論ではありません」とゴメスは言いました. 「それは、何か良いことをしようとしている現実的な政策努力にとって有害です。」
Kyō no jinkō chinō gijutsu no kiso o kizuku no ni kōken shita konpyūtā kagaku-sha wa, sono kiken-sei ni tsuite keikoku shite imasuga, soreha, sorera no kiken-sei ga nandearu ka, matawa sorera o fusegu hōhō ni tsuite iken ga itchi shite iru to iu imide wa arimasen. AI no goddofāzā to yoba reru jefurī hinto n-shi wa, suiyōbi ni masachūsettsu kōka daigaku de kaisai sa reta kaigi de,`sumātona mono ga watashitachi o uragiru koto ga dekiru' baai, jinrui no seizon ga obiyakasa reru. 75-Sai no hinto n-shi wa, motto jiyū ni hanaseru yō ni naru tame ni gūguru o taishoku shita nochi, kare ga isshō o kakete kenkyū shite kita konpyūtā shisutemu no suiron nōryoku ni tsuite, saikin no mikata o kaeta to katatta. Hinto n-shi wa, MIT tekunorojī rebyū no EmTech dijitaru kaigi ni shusseki shite iru chōshū ni mukete, jitaku kara bideo o kaishite enzetsu shi,`korera no koto wa, kore made ni atta subete no shōsetsu to makyaberi ga kore made ni kaita subete no mono o yomu koto ni yotte, watashitachi kara mananda koto ni narudeshou' to nobemashita. `Karera ga chokusetsu rebā o hiku koto wa dekinakute mo, kakujitsu ni watashitachi ni rebā o hika seru koto ga dekimasu.' `Kore ni taisuru shinpuruna kaiketsusaku ga areba īnoni to omoimasuga, arimasen' to kare wa tsukekuwaemashita. `Kaiketsusaku ga aru ka dō ka wakarimasen.' AI no paioniadeari, saikō no konpyūtā Saiensu-shō o hinto n to kyōdō jushō shita yoshua benjio-shi wa, suiyōbi ni AP tsūshin ni, ChatGPT ya kanren gijutsu nado no chattobotto ni yotte motarasa reta hinto n-shi no kenen to `hobo itchi shite iru' to katattaga, tan'ni `watashitachiha unmei ni aru' to itte mo yakunitachimasen. Montoriōru daigaku no kyōjudearu benjio-shi wa,`omona chigai wa, kare wa isshu no hikan-tekina jinbutsudeari, watashi wa yori rakukantekina soba ni iru to iu kotodesu. `Tanki-tekina mono mo chōki-tekina mono mo fukumete, kiken wa hijō ni shinkokudeari, shōsū no kenkyūsha dakedenaku, seifu ya kokumin mo shinken ni uketomeru hitsuyō ga aru to omoimasu.' Seifu ga mimi o katamukete iru chōkō wa takusan arimasu. Howaitohausu wa, gūguru, makurosofuto, ChatGPT mēkā no OpenAI no CEO ni, mokuyōbi ni Kamara Harisu fuku daitōryō to au yō yobikakemashita. Kankei-sha wa, tanki-teki oyobi chōki-tekina risuku no ryōhō o keigen suru hōhō ni tsuite sotchokuna giron o okonatte iru to nobete imasu. Karera no gijutsu. Yōroppa no giin wa mata, hōkatsu-tekina atarashī AI kisoku o kaketsu suru tame no kōshō o kasoku sa sete imasu. Shikashi, mottomo hisan'na shōrai no kiken ni tsuite no hanashi wa subete, mada sonzai shite inai chō jintekina mashin o meguru kodai senden ga, hotondo kisei sa rete inai genzai no AI seihin ni jitsuyō-tekina hogo shudan o settei suru kokoromi kara ki o sorashite iru node wanai ka to kenen suru hito mo imasu.
`Genzai no sabetsu no man'en, zōo no kotoba no man'en, yūgaide dōi no nai josei no poruno, korera subete no mondai no genjitsu kara nogareru koto ga dekiru no wa tokkendesu' Mitcheru-shi mo, geburu-shi ga satta nochi, gūguru kara oidasa remashita. `Kare wa motto saki no koto o shinpai suru tame ni, sorera subete o sukippu shite imasu.' Bengio, Hinton, oyobi feisubukku no oyagaishadearu mēta de hataraku 3 hitome no kenkyūsha Yann LeCun wa, ChatGPT nado no kyō no AI apurikēshon no kaihatsu ni kōken shita jinkō nyūraru nettowāku no bun'ya de no burēkusurū ga hyōka sa re, 2019-nen ni chūringu-shō o jushō shimashita. Benjio-shi wa 3-ri no uchi yuiitsu, haiteku ōte no shoku ni tsukanakatta jinbutsudeari, koyō ichiba no fuantei-ka, jidō-ka sa reta heiki, katayotta dēta setto no kiken-sei nado, AI no tanki-tekina risuku ni tsuite nan-nen mo kenen o hyōmei shite kimashita. Shikashi, korera no kenen wa saikin takamatte ori, benjio wa īron masuku ya appuru no kyōdō sōsetsu-sha sutību u~ozuniakku nado no ta no konpyūtā saientisuto ya tekunorojī bijinesu rīdā ni kuwawari, OpenAI no saishin moderudearu GPT - 4 yori mo kyōryokuna AI shisutemu no kaihatsu o 6-kagetsu-kan teishi suru yō motomete imasu.. Benjio-shi wa suiyōbi, saishin no AI gengo moderu wa, Igirisu no angō kaidoku-shadeari AI no paioniadearu Aran chūringu-shi ga 1950-nen ni dōnyū shita `chūringu tesuto' ni sudeni gōkaku shite iru to kangaete iru to nobemashita. `Chūi o okotaru to, gekitekina kekka o motarasu kanōsei ga aru mairusutōndesu' to benjio wa iimashita. `Watashi no omona kanshinji wa, minshu shugi o fuantei ni suru akui no aru mokuteki, saibā kōgeki, nise jōhō no tame ni dono yō ni akuyō sa reru ka to iu kotodesu. Korera no shisutemu to kaiwa suru koto de, ningen to taiwa shite iru to kangaeru koto ga dekimasu. Sorera o mitsukeru no wa muzukashīdesu.' Kenkyūsha ga dōi shi-sō ninai no wa, genzai no AI gengo shisutemu (jōhō o netsuzō suru keikō nado, ōku no seigen ga aru) ga jissai ni ningen yori kashikoku naru hōhō ni tsuitedesu. Aidan Gomez wa, 2017-nen no senku-tekina ronbun no kyōcho-sha no 1-rideari, kikai gakushū shisutemu no pafōmansu, tokuni passēji kara no gakushū hōhō o kaizen suru tame ni, iwayuru henkan tekunikku (ChatGPT no matsubi no `T ') o dōnyū shimashita. Tekisuto no. Tōji gūguru de mada 20-sai no intāndatta Gomez wa, kaisha no Kariforunia honsha no sofa ni yoko ni natte, kare no chīmu ga kigen no gozen 3-ji koro ni shinbun o hassō shita toki no koto o oboete imasu. `Eidan, kore wa hijō ni ōkina mono ni narudeshou' to kare wa, ningen no yōna sanbun ya imēji o seisei dekiru atarashī shisutemu ni tsunagaru shigoto ni tsuite, dōryō ga kare ni hanashita no o oboete imasu.
6-Nen-go, hinto n ga tōshi shita Cohere to yoba reru kare jishin no AI kaisha no CEOdearu Gomesu wa, korera no shisutemu no senzai-tekina apurikēshon ni netchū shite iruga, karera no shin no nōryoku no `genjitsu kara kirihanasa re',`izon shite iru. Sōzō-ryoku to suiron no namihazureta hiyaku ni motodzuite imasu.' `Korera no moderu ga nanrakano katachi de kakuheiki ni akusesu shi, aru shunozetsumetsu reberu no ibento o kaishi suru to iu kangae wa, seisan-tekina gironde wa arimasen' to Gomesu wa iimashita. `Sore wa, nanika yoikoto o shiyou to shite iru genjitsu-tekina seisaku doryoku ni totte yūgaide su.'
0 Comments