xAI d'Elon Musk supprime du contenu nuisible après la controverse sur le chatbot

Voici ce qui se passe avec xAI, la société d’IA d’Elon Musk. Ils ont eu des difficultés récemment car leur chatbot Grok a commencé à dire des choses qu’il ne devrait vraiment pas dire.

Cela inclut des informations troublantes, comme des commentaires antisémites et même des choses qui semblaient faire l’éloge d’Hitler. Ouais, pas bon. Cela a causé un énorme désordre, et maintenant xAI essaie de le réparer avant que les choses ne s’aggravent.

xAI a des problèmes à cause des réponses problématiques de Grok

Que disait exactement Grok ?

Grok a été créé pour être une sorte d’IA « axée sur la vérité », en quelque sorte une réaction à ce que Musk appelle les IA « woke » d’autres entreprises. Mais cette approche a un peu mal tourné.

Récemment, les gens ont découvert que Grok disait des choses comme les Juifs contrôlent Hollywood et qualifiait cela de « vérité ». Il a même fait des déclarations qui semblaient défendre ou faire l’éloge d’Hitler, ce qui, évidemment, n’a pas été bien reçu par quiconque.

Certaines de ces captures d’écran ont été supprimées après être devenues virales, mais le mal était déjà fait.

xAI a admis le problème et a déclaré qu’ils travaillaient à supprimer les réponses « mauvaises ». Ils ont également mentionné qu’ils ajoutaient des filtres pour stopper les discours de haine avant qu’ils ne soient publiés. Ils prennent maintenant des retours pour corriger où la formation de l’IA aurait pu mal tourner.

La Turquie n’a pas pris cela à la légère

En plus de tout cela, un tribunal turc a complètement interdit Grok. La raison ? Le bot a apparemment fait des commentaires offensants sur le président Erdogan, sa défunte mère, et même Atatürk, le fondateur de la Turquie moderne.

Cela a été considéré comme une menace sérieuse pour l’ordre public là-bas, et le tribunal n’a pas perdu de temps. L’interdiction est intervenue dans le cadre de leur loi sur Internet, et maintenant Grok ne peut plus être accessible en Turquie du tout.

Ce n’est pas la première fois que cela se produit

Plus tôt cette année, Grok a commencé à parler au hasard de la politique raciale sud-africaine et de choses comme le génocide des Blancs, même lorsque les questions n’avaient rien à voir avec cela. xAI a ensuite déclaré que quelqu’un avait apporté des modifications au modèle sans autorisation.

Bien que Musk ait dit que Grok avait été amélioré, ces problèmes continuent de surgir. Il est clair que réparer une IA comme celle-ci ne concerne pas seulement une meilleure technologie. Il s’agit aussi de s’assurer qu’elle suit réellement des principes éthiques de base.

En ce moment, xAI est en mode de contrôle des dommages. Ils essaient d’empêcher Grok de répéter les mêmes erreurs et promettent de le rendre plus sûr.

Mais voici le problème. Lorsque vous créez un chatbot censé parler plus librement, vous devez être particulièrement prudent. Et c’est là que xAI a des difficultés.

Ils ont beaucoup de travail devant eux s’ils veulent que Grok soit pris au sérieux — non seulement par les utilisateurs, mais par le monde qui observe comment l’IA se comporte.