AIに対する手紙：イーロン・マスクと専門家は開発の一時停止を呼びかける

のCEO Twitter, イーロン·マスク そしてその本で有名な歴史家 人類の簡単な歴史, ユヴァル・ノア・ハラリ、他の専門家、研究者、科学者の中でも、AIの更新と開発の一時停止を求める手紙に署名することを決定しました.

問題の手紙は、 フューチャーオブライフ研究所 （いのちの未来研究所、無料訳） の開発を中断することを推奨します。 人工知能 (AI) 少なくとも XNUMX か月間、透明性があります。 ドキュメントの内容について詳しく知り、全文の翻訳を参照して、次のトピックに関する議論を把握してください。

AI に対する書簡は、人工知能について何と言っていますか?

自営業と偽情報の増加は、書簡で強調されている AI 技術に関する主な懸念事項の XNUMX つです。 テキストの内容は、次のようなツールでの開発の中断の瞬間も要求します。 GPT-4, ミッドジャーニー 同様の AI ソリューションは、「公開され、検証可能」である必要があります。

投資に関して、書簡はまた、どのように OpenAI, Microsoft e グーグル 政府や公的機関がそれぞれの新しいステップに追いつくのにどのように苦労しているかを詳しく見ることなく、技術競争に巻き込まれています。 つまり、ドキュメントによると、AI セクターはますます追いつくのが困難な速度に突入しており、テクノロジーに関与する関係者でさえこれを認識しています。

「この一時停止を迅速に規制できない場合は、政府が介入して一時停止を開始する必要があります。」

からの手紙 フューチャーオブライフ研究所

O テキスト 彼はまた、テクノロジーを生み出す AI 研究所についても言及していますが、正確な評価を行うことはできず、これらのデジタルマインドを制御することさえできません。 Apple の共同創設者であるスティーブ ウォズニアックから、ヨシュア ベンジオやスチュアート ラッセルのような先駆的な研究者、元 Google の製品哲学者であるトリスタン ハリスまで、署名者の興味をそそるのは、情報の拡散の範囲を取り巻く問題です。私たちの文明の」。 この意味で、ドキュメントは最高の投資の瞬間にも注意を払っています。

「強力な AI システムは、その効果がプラスになり、リスクが管理されると確信できる場合にのみ開発されるべきです。」

からの手紙 フューチャーオブライフ研究所

フューチャー オブ ライフ インスティテュートと責任ある技術

2015 年にイーロン マスクの投資により設立された、 フューチャーオブライフ研究所 人類と他の生物の両方にとって、生命への可能性のあるリスクから新しい技術の進歩を遠ざけることを目指しています。 この組織は、AI だけでなく、バ​​イオテクノロジーや原子力エネルギーなどの分野での生産にも注意を払っています。 技術的責任を支援するこの研究所の取り組みは、世界中で病気が根絶され、民主主義が強化される世界をビジョンとして掲げています。

Future of Life の活動は、 国連 (UN) 2020 年: 国連は、この研究所を AI 関連の問題に関する市民社会の代表として任命しました。 しかし、今年初め、そのテクノロジー監視機関の社長であるマックス テグマルクは、極右メディア プラットフォームであるスウェーデンの Nya Dagbladet への誤った投資について謝罪しなければなりませんでした。

AI開発における他社の立ち位置は？

などの連結会社 グーグル e Microsoft からの手紙へのコメントは避けた。 フューチャーオブライフ研究所. 両社は、 OpenAI、作成した会社 AI言語モデルを活用してコードのデバッグからデータの異常検出まで、. ちなみに、現在最も有名な AI の 10 人の「母親」は、マイクロソフトから XNUMX 億ドルの投資を受けました。 同時に、ビル・ゲイツによって設立された会社は、検索エンジンで OpenAI テクノロジーを使用しています。 ビング.

今月、偶然にも、ビル・ゲイツは AI ソリューションが将来にもたらす可能性のある影響について言及している手紙. Google は、人工知能への投資を維持しています。 吟遊詩人、まだ完全には公開されていません。

AI と GPT-4 に関する専門家の懸念

改善されたとはいえ、ツールは GPT-4 それはまだいくつかの幻覚を伴う結果をもたらし、有害な言葉を使用してユーザーにサービスを提供する可能性があります. しかし、一時停止は、実際には、AI テクノロジーの害だけでなく、その利点についてもっと理解することであるべきだと考える人もいます。 これは、テキサス大学オースティン校（米国）の研究者、ピーター・ストーン氏の見解です。

「次のテクノロジーの開発に進む前に、AI を適切に使用する方法とそうでない方法について少し経験を積む価値があると思います。 これは、人工知能の新しいモデルを作成し、他のモデルよりも先にリリースするための競争であってはなりません。」

ピーターストーン

この立場とは対照的に、署名者の XNUMX 人である会社の創設者である Emad Mostaque 氏は、 スタビリティAI (人工知能を備えたツールに専念している) は、AI ソリューションが社会の存在そのものに対する潜在的な脅威であると Wired に語った。 彼はまた、この技術競争の将来をより考慮して、投資がどのように見直されるべきかを重要視しました。

「商業的な優先事項を脇に置き、不確実な未来との競争に参加するのではなく、より多くの研究を行い、すべての人のために休憩を取る時が来ました。」

エマド・モスク

AI に対する手紙: 全訳

巨大な AI 実験の一時停止: 公開書簡

すべての人工知能 (AI) ラボに、少なくとも 4 か月間、GPT-XNUMX よりも強力な AI システムのトレーニングを直ちに一時停止することをお勧めします

人間と競合できる知性を備えた AI システムは、社会と人類に深刻なリスクをもたらす可能性があることが、コーネル大学の広範な研究で証明されています。 アライメントの問題 (ブライアン・クリスチャン、2020年)、 人工知能の時代に人間であること (Max Tegmark、2017 年) およびその他の研究 (この分野の進歩、倫理、雇用市場への影響、実存的リスクに関する) によって、有名な AI 研究所によって認められています。 Asilomar の AI Principles で述べられているように、「高度な AI は、地球上の生命の歴史に大きな変化をもたらす可能性があり、慎重に適切なリソースを使用して計画および管理する必要があります。」 残念ながら、このレベルの計画と管理は行われていませんが、ここ数か月間、AI ラボは制御不能な競争を開始し、誰も (その作成者でさえも) 理解できない、より強力なデジタル マインドを開発および利用しようとしています。確実に予測または制御します。 

現在、現在の AI システムは、一般的なタスクで人間と競合できるようになってきており、次のことを自問する必要があります。 我々はしなければならない 機械が私たちの情報チャネルを改宗と虚偽であふれさせますか? 我々はしなければならない 満足のいくものを含め、すべてのジョブを自動化しますか? 我々はしなければならない 人間以外の心を発達させて、最終的に数と知性を上回り、時代遅れにし、私たちに取って代わることができるようにしますか? 我々はしなければならない 私たちの文明の支配を失う危険がありますか？ このような決定は、サポートされていないテクノロジー リーダーに委ねるべきではありません。 強力な AI システムは、その効果がプラスになり、リスクが管理されると確信できる場合にのみ開発する必要があります。. この依存は、システムの潜在的な結果の大きさに関連して十分に正当化され、強化されなければなりません。 生成型人工知能に関する OpenAI の最近の見解は次のように述べています。 [AIの]新しいモデル」。 私達は同意します。 今がその時です。 

このように、 すべての人工知能 (AI) ラボに、少なくとも 4 か月間は GPT-XNUMX よりも強力な AI システムのトレーニングを直ちに一時停止するようアドバイスしました。 この休憩は公開され、検証可能であり、すべての主要な関係者が含まれている必要があります。 そのような一時停止を迅速に調整できない場合、支配者は介入して一時停止を設定する必要があります。

AI ラボと独立した専門家は、この休憩を利用して、高度な AI の設計と開発のための一連の共有セキュリティ プロトコルを共同で開発および実装する必要があります。これらは、サードパーティの評価者によって厳密に監査および検証されます。 これらのプロトコルは、これらの標準によって管理されるシステムが合理的な疑いを超えて安全であることを保証する必要があります.XNUMXつの例は、AIシステムが「適切に機能し、信頼できないセキュリティリスクを示さない」ことを要求するOECDの広く採用されているAI原則です. それか ナオ これは一般的に AI 開発の停滞を意味しますが、予測不可能な「ブラック ボックス」モデルへの危険な競争からの出口であり、ますます大きくなり、新たな機能を備えています。  

AI の研究開発は、今日の強力な最先端システムをより正確で、安全で、解釈可能で、透明性があり、堅牢で、整合性があり、信頼性が高く、忠実なものにすることに再び焦点を当てる必要があります。

並行して、AI 開発者は政策立案者と力を合わせて協力し、厳格な AI ガバナンス システムの構築を加速する必要があります。 少なくとも次のものが含まれている必要があります。 

• 人工知能に特化した新しい有能な規制当局。
• 計算能力に大きく貢献する非常に強力な AI システムの検証と監視。 
• デジタルマインドの実際のモデルと合成モデルを区別するのに役立つ来歴およびブランディングシステム、およびこれらのテクノロジーのリークの追跡。 
• 盛んな認証および監査のエコシステム。 
• AI システムによるコミットメントへのダメージ。
• AI セキュリティの技術研究に十分な公的資金を提供する。 それは
• AIが引き起こす深刻な経済的および政治的影響（特に民主主義に関連して）に対処するための十分な資金を備えた機関。 

人類は AI によって実りある未来を楽しむことができます。 強力な AI システムの作成に成功した今、私たちは「人工知能の夏」を祝うことができます。そこでは、報酬を獲得し、すべての人に明らかな利益をもたらすようにそれらのシステムを設計し、社会に適応する機会を与えます。 社会は、クローニング、優生学、遺伝子工学など、あらゆる人に壊滅的な影響を与える可能性のある他の技術に「一時停止ボタンを押した」。 ここでも同じことができます。 秋に突入するのではなく、AIの長い夏を楽しみましょう。

以下も参照してください。

Midjourney を使用して AI を活用した画像を作成する方法

ソース： ワイヤード | テッククランチ | 人生の未来 | バイスワールドニュース

によってレビュー グラウコンバイタル 29/3/23。