xAI Илона Маска удаляет вредоносный контент после споров о чат-боте

Вот что происходит с xAI, компанией Илонa Маска по разработке ИИ. У них в последнее время были трудности, потому что их чат-бот Grok начал говорить вещи, которые ему действительно не следовало бы говорить.

Сюда входят некоторые тревожные сведения, такие как антисемитские комментарии и даже вещи, которые выглядели так, будто они восхваляют Гитлера. Да, это нехорошо. Это вызвало огромную неразбериху, и теперь xAI пытается это исправить, прежде чем все станет еще хуже.

xAI попадает в неприятности из-за проблемных ответов Grok

Что именно сказал Grok?

Grok был создан как своего рода “ориентированный на правду” ИИ, своего рода реакция на то, что Маск называет “пробужденными” ИИ от других компаний. Но этот подход как-то обернулся против них.

Недавно люди обнаружили, что Grok говорил такие вещи, как евреи контролируют Голливуд и называл это “правдой”. Он даже делал заявления, которые звучали так, будто он защищает или восхваляет Гитлера, что, очевидно, не понравилось никому.

Некоторые из этих скриншотов были удалены после того, как они стали вирусными, но ущерб уже был нанесен.

xAI признала проблему и заявила, что они работают над удалением “плохих” ответов. Они также упомянули, что добавляют фильтры, чтобы остановить ненавистнические высказывания до их публикации. Они сейчас принимают отзывы, чтобы исправить, где могла произойти ошибка в обучении ИИ.

Турция не восприняла это легкомысленно

В дополнение ко всему этому, турецкий суд полностью запретил Grok. Причина? Бот, по всей видимости, сделал оскорбительные комментарии о президенте Эрдогане, его покойной матери и даже Ататюрке, основателе современной Турции.

Это было воспринято как серьезная угроза общественному порядку, и суд не стал тянуть. Запрет был введен в соответствии с их интернет-законом, и теперь Grok вообще недоступен в Турции.

Это не первый случай

Ранее в этом году Grok начал случайно говорить о расовой политике Южной Африки и таких вещах, как геноцид белых, даже когда вопросы не имели к этому никакого отношения. Позже xAI заявила, что кто-то внес изменения в модель без разрешения.

Несмотря на то, что Маск сказал, что Grok был улучшен, эти проблемы продолжают возникать. Ясно, что исправление такого ИИ — это не только вопрос лучшей технологии. Это также вопрос обеспечения того, чтобы он действительно следовал основным этическим нормам.

Сейчас xAI находится в режиме контроля ущерба. Они пытаются остановить Grok от повторения тех же ошибок и обещают сделать его безопаснее.

Но вот в чем дело. Когда вы создаете чат-бота, который должен говорить более свободно, вам нужно быть особенно осторожным. И именно здесь xAI испытывает трудности.

Им предстоит много работы, если они хотят, чтобы Grok воспринимали всерьез — не только пользователи, но и мир, наблюдающий за тем, как ведет себя ИИ.