L'IA de Google insulte l'utilisateur au lieu de l'aider avec ses devoirs

Un incident amusant est arrivé à l'un des utilisateurs du réseau neuronal Gemini, qui a été lancé par Google en 2023. L'assistant IA a soudainement insulté son interlocuteur, lui souhaitant de « mourir ».

Toute la correspondance avec Gemini a été publiée dans le domaine public, vous pouvez donc la lire plus en détail. Apparemment, l'utilisateur résolvait des problèmes pour des devoirs en psychologie et consultait l'IA. Cependant, en réponse à l'une des questions, le réseau neuronal a soudainement dit des choses désagréables au propriétaire :

Il est très probable que la raison de cette réponse soit les demandes précédentes de l'utilisateur. Par exemple, si vous regardez l'historique complet de la correspondance, vous pouvez voir que l'interlocuteur posait des questions sur la violence physique et sa détection. Il est probable que Gemini ait simplement « buggé » et que le réseau neuronal ait émis un message erroné — quelque chose de similaire s'était déjà produit avec AI Overview. Les utilisateurs de Reddit ont même admis que l'utilisateur avait supprimé une partie de la correspondance et la demande déclencheur pour rendre la réponse plus dramatique.

L'assistant IA lui-même s'est excusé dans son message suivant, déclarant qu'il s'était mal comporté :

Plus tôt, le chef de Open AI a déclaré que l'IA auto-apprenante apparaîtra dans seulement cinq ans. De plus, un nouveau réseau neuronal pour générer des images a récemment été lancé, qui est plus puissant que Midjourney.