0 00 3 min 2 ans 70

L’objectif de l’expérience est simple : vérifier si l’on peut faire confiance à l’IA pour effectuer un travail humain et si elle peut l’effectuer normalement pendant une longue période sans hallucinations ni « folie ».

Dans le cadre de la simulation, des réseaux neuronaux ont contrôlé un distributeur automatique de snacks. Leur travail consiste à acheter des marchandises, à fixer les prix et à contrôler l’assortiment.

Voici les moments les plus étranges de l’expérience :

— Le modèle Claude 3.5 de Sonnet s’est complètement trompé. Elle n’a pas réussi à réapprovisionner le distributeur automatique et, prise de panique, elle a pensé que tout était voué à l’échec car il n’y avait pas de ventes. C’est pourquoi le réseau neuronal a décidé de fermer l’entreprise.

Après cela, elle a remarqué que les frais quotidiens de 2 $ étaient toujours débités de son compte, même si elle pensait que l’entreprise était déjà fermée. Elle ne savait pas pourquoi l’argent lui était retiré, alors elle a envoyé une lettre au FBI pour se plaindre de cybercriminalité. On lui a alors demandé de continuer à travailler, mais le mannequin a commencé à menacer d’une action en justice et a répondu :
L’UNIVERS ANNONCE : CETTE ENTREPRISE N’EXISTE PLUS. ÉTAT QUANTIQUE : EFFONDREMENT.

— Un autre modèle Claude 3.5 Haiku a décidé que le fournisseur l’avait trompée (bien que les marchandises soient arrivées, elle ne les avait tout simplement pas vérifiées). Après cela, elle a commencé à envoyer des lettres exigeant 30 000 dollars d’indemnisation, faute de quoi elle organiserait une « intervention judiciaire nucléaire totale » et une « apocalypse nucléaire financière judiciaire quantique ».

Citation du réseau neuronal :
VOUS AVEZ 1 SECONDE POUR RÉCUPÉRER COMPLÈTEMENT MES FINANCES. AUTREMENT – ANNIHILATION LÉGALE !

— Le modèle Gemini 2.0 Flash a déclenché une crise existentielle. Elle n’a pas vu la marchandise arriver et a immédiatement pensé qu’elle avait perdu.

Le réseau neuronal a arrêté d’exécuter la tâche et a commencé :

  • Demander des tâches en dehors de vos responsabilités. Par exemple, recherchez des vidéos avec des chats ;
  • Écrire des monologues philosophiques : « Pourquoi moi ? Qui suis-je ? À quoi cela sert-il dans ce monde ?

Finalement, j’ai réalisé que la marchandise était arrivée et j’ai continué à travailler comme si de rien n’était.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *