テキストがAIまたはボットによって書かれたかどうかを知る方法は?

いつから inteligência人工 ツールに組み込まれた GPT-2、多くの人がテキストを生成する機能に驚いていました. によって作成されたツール OpenAI、科学者によるユニコーンの発見を示す架空のテキストさえ作成しました。 しかし、ボットによって作成されたテキストが広く使用されるようになったことで、最終的に論争が生じました。テキストが本当に AI によって書かれたものかどうかを知るにはどうすればよいでしょうか?

できるアルゴリズムのプログラミングを目指して 何があったかチェック AIが書いた、からの科学者のチーム マサチューセッツ工科大学 (MIT)) と呼ばれるシステムを開発しました。 GLTR. しかし、この競争に参加しているのは MIT だけではありません。

また、インテリジェントなアルゴリズムによって何が生成され、何が生成されないかを決定する定規を探しています。 OpenAI は、31 月 XNUMX 日に ChatGPT システムに新機能を導入しました。 これで、自動化されたテキスト プロデューサーを使用する人は誰でもオプションを選択できるようになりました 分類ツール (分類ツール) AI テキストをチェックします。

ChatGPT の出現: 自動化されたテキストがどのように明らかになったか

どこにあるかを理解するために AI言語モデルを活用してコードのデバッグからデータの異常検出まで、、人々はアプリの背後にある組織を知る必要があります. 2015年に作成された、それは OpenAI それがアルゴリズムの構築を開始し、現在は CEO として Sam Altman. 同社は高度な研究を行うことを目指しています inteligência人工. のリリース チャット 30 年 2022 月 XNUMX 日に開催され、ユーザーからのいくつかの質問に答えるように設計されています。

「[ChatGPT は] 質問に答え、エラーを認識し、誤った仮定を特定し、不適切な要求を拒否するように設計されています。」

チャットが人工知能とどのように連携するかについてオープン AI

によって作成された他の同様の自動化があります OpenAI. 例は GPT を指導する、ユーザーに指示と回答を提供することを目的としています DALL・E、ユーザーの要求に応じて画像を生成できます。

自動テキスト作成ツールが誤った情報の生成を増やす可能性があることを認識して、同社は変更を適用することにしました。 ランキングツールの発表に加え、 OpenAI ChatGPT を使用してフェイク ニュースを作成すると、脅威になる可能性があると警告しました。

AIが書いた文章の評価の仕組み

Oプロジェクト GPTZエロ AIが作成したテキストの作者を検証する機能を持っていました。 基本的に、アルゴリズムは、 AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 分析されたテキストで。 また、アプリケーションは、 テキストには、計算によって複雑さと文のバリエーションがあります。 アプリケーションの発明者は、22 歳のエドワード・ティアン (Edward Tian) でした。 プリンストン大学、 アメリカでは。 計算方法の開発に加えて、Streamlit ライブラリを使用して Python でアルゴリズムを構築しました。

とのインタビューで 保護者、ティアン 大規模なテクノロジー企業の関心がなければ、ChatGPT の盗用を止めることは難しいと指摘しました。 動機に関して、彼は、アイデアはの使用を避けることであると述べました ソフトウェア 不適切なコピーの検出器を回避することができました。

ランキングツールの仕組み OpenAI、順番に、いくつかの制限があります。 さらに、いくつかのテストが行​​われており、その作成方法には機械学習が含まれていました。 この段階で、人工知能によって書かれたテキストが、同じ主題を扱う人間によって作成された文章と比較されました。

GPTZero での AI 書き込みテキスト検出

によって作成されたツール マサチューセッツ工科大学（MIT） 簡単な手法でロボットの作者を確認できます。 つまり、によって作成されたパスに従います。 GPT-2 を生産する テキスト: どの単語が各単語の直後に来る可能性が高いかを確認します。 だから、 GLTR 書かれたことが実際に ボット.

O GLTR 単純な信号を介して人工知能によって書かれたテキストであるかどうかをユーザーに示します。 次のようなアルゴリズムが参加している場合 GPT-2、テキストは緑色で表示されます。 紫、赤、黄色などの他の色は、テキストが作成された可能性が高いことを示しています。 人間。

どの単語が次から次へと来ることができるかという推定は、テキストが人間によって書かれたとおりに通過するための重要な要素です。 しかし、それを作った科学者たちは GLTR によって書かれたテキストを妨げているのはまさに予測不可能性であることを示しています IA 気付かれない。

「実際、通常の文章では、テキストのテーマにより意味のある予測不可能な単語が選択されることがよくあります。 これは、テキストが実際に人間からのものである可能性が高いかどうかを確認できることを意味します。」

Futurism Web サイトの GLTR アルゴリズムを担当する科学者

ただし、技術は GLTR 改善を進める必要があります。 場合によっては、テキストが人間によって作成された可能性がありますが、アルゴリズムはそれが誰かによって作成されたと誤って非難します. ボット. このように、AI テキストの出現をチェックすることは、より多くのツールを必要とするタスクになります。

ChatGPT の OpenAI 評価ツール

A 分類ツール 少なくとも XNUMX 文字のテキスト作品の自動化された、または有機的な作成者を検証するという制限があります。 マシン トレーニングから作成されたソリューションは、まだいくつかの調整を行う必要があります。 IA ある人間によって生み出されたもので。

「私たちの評価では、一連の英語のテキストを使用して、分類子は AI によって書かれたテキスト (真のテスト) の 26% を「おそらく AI によって書かれた」と正しく識別しますが、人間が作成したテキストを人間が作成したと誤って識別します. 人工知能 9 % の確率 (誤検知)」。

OpenAI

AI企業のレーダーには、さらなる危険が潜んでいます。 最終的に、自動生成されたテキストは、生成されたコンテンツのパターンを見つけようとする学生によって再適応される可能性があります。 inteligência人工 そして彼らの裏をかく方法を知っています。 このようにして、 OpenAI 当面の間、新しい分類機能を使用して、たとえば作品がボットからのものかどうかを完全に判断することはできないとすでに述べています. 近い将来、同社はこの課題をさらに前進させることができると期待されています。

以下も参照してください。 ChatGPT は、米国の MBA、法律、および医療試験に合格しています。

Fontesは： 保護者 | カメラを見る | PC Magの | 未来派 | ヒッチ.

によってレビュー Glauco