Comment casser ChatGPT ?

Tout le monde parle de la course à l’AGI (intelligence artificielle générale).

Une technologie plus puissante que tous les esprits humains réunis.

Capable de s’améliorer elle-même.

Mais si ça peut vous rassurer, nos modèles ont encore quelques limites.

Le “Jailbreak”

Nouvelle tendance de la communauté IA, le Jailbreak force ChatGPT à faire des actions contraires à sa politique d’utilisation.

En gros, il faut duper l’IA.

Au-delà du côté divertissant, ça montre à quel point nos modèles sont faillibles.

En réalité, les devs ne les maîtrisent pas.

On vous a mis un de nos exemples préféré juste en dessous 👇

Des erreurs inhérentes

Un manque de logique

Les IA sont assez mauvaises pour résoudre des problèmes logiques.

Le poids de plumes, des syllogismes basiques…

La prochaine génération aura sûrement corrigé tous ces défauts, en plus d’améliorer grandement les capacités mathématiques des modèles.

Reconnaître le contenu IA

Des businessmen ont découvert une liste de mots qui indiquent qu’un texte a été fait avec l’IA. Résultat ? Ils filtrent systématiquement les messages contenant ces mots.

Voici la liste (non-exhaustive) :

Delve, Safeguard, Demystify, Robust, et la phrase “In this digital world”…