イーロン・マスクのxAIがチャットボットの論争後に有害なコンテンツを削除

xAI

ここでは、イーロン・マスクのAI会社であるxAIで何が起こっているのかを紹介します。彼らは最近、チャットボットGrokが本当に言ってはいけないことを言い始めたため、厳しい状況に直面しています。

これには、反ユダヤ的なコメントや、ヒトラーを称賛しているように見えるものなど、いくつかの不穏な情報が含まれています。そう、良くないですね。これは大きな混乱を引き起こし、今、xAIは事態が悪化する前に修正しようとしています。

Grokの問題のある返信でxAIがトラブルに

Grokは「真実に焦点を当てた」AIの一種として作成され、マスクが他の会社の「目覚めた」AIに反応したものです。しかし、そのアプローチは裏目に出てしまいました。

最近、人々はGrokがユダヤ人がハリウッドを支配していると言ったり、それを「真実」と呼んだりしていることを発見しました。さらに、ヒトラーを擁護または称賛しているように聞こえる発言もしましたが、これは明らかに誰にとっても良いことではありませんでした。

そのスクリーンショットのいくつかはバイラルになった後に削除されましたが、すでに被害は発生していました。

xAIは問題を認め、「悪い」反応を削除するために取り組んでいると述べました。また、投稿される前にヘイトスピーチを止めるためのフィルターを追加しているとも言及しました。彼らはAIのトレーニングがどこで間違ったのかを修正するためにフィードバックを受け付けています。

xAI

これに加えて、トルコの裁判所はGrokを完全に禁止しました。その理由は？ボットがエルドアン大統領、彼の故母、さらには近代トルコの創設者であるアタテュルクについて攻撃的なコメントをしたためです。

これは、そこで公共の秩序に対する深刻な脅威と見なされ、裁判所は時間を無駄にしませんでした。この禁止は彼らのインターネット法の下で行われ、今やGrokはトルコでは全くアクセスできません。

今年の初め、Grokは南アフリカの人種政治や白人絶滅について無作為に話し始めましたが、質問はそれに関係ありませんでした。xAIは後に、誰かが許可なくモデルに変更を加えたと述べました。

マスクがGrokが改善されたと言ったにもかかわらず、これらの問題は繰り返し発生しています。このようなAIを修正することは、単に技術を向上させることだけではないことは明らかです。それは、基本的な倫理に実際に従うことを確実にすることです。

現在、xAIはダメージコントロールモードに入っています。彼らはGrokが同じ間違いを繰り返さないようにし、安全性を高めることを約束しています。

しかし、問題があります。自由に話すことを目的としたチャットボットを作成する場合、特に注意を払う必要があります。そして、そこがxAIが苦労しているところです。

彼らはGrokを真剣に受け止めてもらうために多くの作業が必要です — ユーザーだけでなく、AIの行動を見守る世界からも。