Basilic de Roko

Carte Rare · n° 35079

Le basilic de Roko est une expérience de pensée où une superintelligence artificielle, par ailleurs bienveillante, menacerait de punir toute personne qui aurait eu connaissance de son existence, et dès lors aurait pu contribuer à son développement, mais ne l'aurait pas fait, et retardant dès lors son avènement. L'expérience de pensée trouve son origine dans un article publié en 2010 sur le forum LessWrong, un forum technique axé sur la rationalité, l'intelligence artificielle, la psychologie, et la philosophie. Dans la mythologie grecque, le basilic est une créature mythique capable de détruire ses ennemis avec son regard. Bien que la théorie ait été initialement rejetée par de nombreux utilisateurs de LessWrong comme fondée exclusivement sur des conjectures ou des spéculations, le cofondateur de LessWrong, Eliezer Yudkowsky, a considéré qu'elle représentait un risque informationnel potentiel, et a interdit toute discussion sur le sujet pendant cinq ans. Les rapports d'utilisateurs paniqués...

Lire sur Wikipédia