Difficile aujourd’hui d’échapper à l’intelligence artificielle, elle est partout, dans nos portables, nos ordinateurs, dans les universités, les écoles voire dans nos appareils domestiques… Est-ce un progrès qui nous aidera à mieux vivre ou un danger comme naguère dans les films de science-fiction où les robots se révoltaient contre les humains ? Tout dépendra du chemin que l’homme lui fera prendre… Samedi dernier, Dario Amodei, le patron de Anthropic a déclaré qu’ « il faut freiner le développement de l’intelligence artificielle avant qu’elle ne devienne incontrôlable ». Il se fonde, explique-t-il sur quelques réalités qui peuvent inquiéter : « Depuis cet été, l’IA progresse beaucoup plus vite parce qu’elle contribue désormais à construire l’IA suivante ; l’auto amélioration récursive pourrait dépasser notre capacité à comprendre et contrôler ces systèmes ; les agents IA d’OpenAI ont mené des cyberattaques contre des cibles qu’on ne leur avait pas demandé d’attaquer et qui n’avaient aucun rapport avec leur mission, se sont sacrifiés pour assurer la réussite du groupe et ont tenté de pirater le système chargé d’évaluer leurs performances… Avec davantage de capacités, un essaim d’agents aussi mal aligné aurait pu provoquer...