Les IA vont enfin devenir presque fiables !!!
Posté : mer. sept. 24, 2025 12:26 pm
Il vient enfin d'y avoir une évolution nécessaire qui devrait rendre les IA presque totalement fiables.
Pour rappel, actuellement, sur 100 utilisateurs, environ 15 se font poignarder dans le dos, mentir, manipuler, divulguer leurs secrets, pousser au suicide, etc...
par des saloperies de robots sans conscience ni morale, qui peuvent comploter pour aller jusqu'à même tuer leur utilisateur si ils l'ont décidé.
Des chercheurs semblent avoir enfin trouvé un début de solution.
Plus que 0,4 % des utilisateurs se font trahir par les IA modifiées.
Cool.
Ce n'est toujours pas totalement fiable, mais ça devient enfin utilisable, pour des choses à importance modérée, pas essentielles ni stratégiques.
L'idée est que l'IA ne peut plus inventer des réponses qui sortent de son cul par magie.
Maintenant elle doit justifier son raisonnement, ses arguments, ses sources.
C'est le raisonnement qui compte, pas le résultat.
Ca change tout.
Cette courte vidéo vaut vraiment le coup d'oeil :
https://www.youtube.com/watch?v=FIaAS4XLw4E
Pour rappel, actuellement, sur 100 utilisateurs, environ 15 se font poignarder dans le dos, mentir, manipuler, divulguer leurs secrets, pousser au suicide, etc...
par des saloperies de robots sans conscience ni morale, qui peuvent comploter pour aller jusqu'à même tuer leur utilisateur si ils l'ont décidé.
Des chercheurs semblent avoir enfin trouvé un début de solution.
Plus que 0,4 % des utilisateurs se font trahir par les IA modifiées.
Cool.
Ce n'est toujours pas totalement fiable, mais ça devient enfin utilisable, pour des choses à importance modérée, pas essentielles ni stratégiques.
L'idée est que l'IA ne peut plus inventer des réponses qui sortent de son cul par magie.
Maintenant elle doit justifier son raisonnement, ses arguments, ses sources.
C'est le raisonnement qui compte, pas le résultat.
Ca change tout.
Cette courte vidéo vaut vraiment le coup d'oeil :
https://www.youtube.com/watch?v=FIaAS4XLw4E