Difficile aujourd’hui d’échapper à l’intelligence artificielle, elle est partout, dans nos portables, nos ordinateurs, dans les universités, les écoles voire dans nos appareils domestiques… Est-ce un progrès qui nous aidera à mieux vivre ou un danger comme naguère dans les films de science-fiction où les robots se révoltaient contre les humains ? Tout dépendra du chemin que l’homme lui fera prendre…
Samedi dernier, Dario Amodei, le patron de Anthropic a déclaré qu’ « il faut freiner le développement de l’intelligence artificielle avant qu’elle ne devienne incontrôlable ». Il se fonde, explique-t-il sur quelques réalités qui peuvent inquiéter : « Depuis cet été, l’IA progresse beaucoup plus vite parce qu’elle contribue désormais à construire l’IA suivante ; l’auto amélioration récursive pourrait dépasser notre capacité à comprendre et contrôler ces systèmes ; les agents IA d’OpenAI ont mené des cyberattaques contre des cibles qu’on ne leur avait pas demandé d’attaquer et qui n’avaient aucun rapport avec leur mission, se sont sacrifiés pour assurer la réussite du groupe et ont tenté de pirater le système chargé d’évaluer leurs performances… Avec davantage de capacités, un essaim d’agents aussi mal aligné aurait pu provoquer des dégâts catastrophiques ». Et il conclut que « dans six à douze mois, un tel système pourrait être capable de compromettre une grande partie d’Internet ». Des ingénieurs se montrent beaucoup plus alarmistes. Jacob Coxon, parti d’Open AI pour rejoindre Anthropic, écrit qu’ « aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une super-intelligence capable de s’améliorer elle-même et jouent à la roulette russe avec nos vies. Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie ». Du même avis, un responsable de la sûreté d’Anthropic, Evan Hubinger, ajoute : « Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains » estimant à titre personnel ce risque à « plus de 10 % » dans la décennie.
Les concurrents de Dario Amodei l’ont aussitôt assuré de leur soutien et Elon Musk a affirmé que « Darío a raison ». Lundi, Microsoft a publié un code de conduite pour le développement de son intelligence artificielle afin que « les humains conservent un contrôle significatif sur l’IA afin d’aider les gens à mener une vie meilleure, plus joyeuse et plus productive». Le conseil de sécurité de l’ONU va tenir dans les prochains jours une réunion consacrée à l’IA et à la sécurité et l’Assemblée générale en fera un de ses thèmes majeurs de débat.
Par contre, Donald Trump est un fervent défenseur de l’IA. S’en prenant à Dario Amodei, il dénonce
« une CONSPIRATION MALSAINE à l’œuvre contre l’IA et les centres de données » et, écrit-il sur son réseau « la seule qui s’en réjouit, c’est la Chine ». Selon lui, « CELUI QUI GAGNE LA COURSE À L’IA GAGNE! Nous devançons la Chine et tous les autres, et nous continuerons à le faire », malgré les « théoriciens du complot «et les « traîtres ». Dans un autre de ses six posts sur le sujet- il qualifie de «canular» l’hypothèse selon laquelle l’IA pourrait anéantir l’humanité, un canular « plus grand que « l’arnaque du réchauffement climatique ». Le président affirme que « la seule garantie nécessaire est un «PRÉSIDENT FORT ET INTELLIGENT ». Lui…
En France, un possible prétendant à la présidence, se réjouit aussi de l’arrivée dans nos vies de l’IA. Il s’agit d’Éric Zemmour qui y voit une solution à l’immigration : «D’ores et déjà, en Chine, au Japon, ou aux Etats-Unis, des robots, nourris à l’intelligence artificielle, conduisent des taxis, portent des colis, construisent des murs, récoltent des fruits, et même s’occupent des personnes âgées dans les Ehpad. Oui, même dans les Ehpad. Vous l’avez compris : ces robots bourrés d’IA pourront désormais faire tous les travaux physiques et répétitifs que les immigrés accomplissaient. Mon petit doigt me dit qu’à Reconquête, nous allons aimer les robots.» Des propos honteux !
Bill Gates, le cofondateur de Microsoft a une autre vision, plus positive. S’il rappelle que les inquiétudes autour de l’intelligence artificielle sont légitimes, il confie au magazine français L’Express qu’elle pourrait aussi être une chance pour les pays en développement. La balance bénéfice-risque pour l’IA est, dit-il, en réalité un peu plus favorable à l’Afrique subsaharienne, à condition que l’aide, la philanthropie et les efforts soient correctement ciblés. La Fondation Gates prévoit d’investir au moins 1 milliard de dollars au cours des deux prochaines années pour favoriser le développement et l’accès à une intelligence artificielle (IA) capable de réduire les inégalités, avec un accent particulier sur la santé, l’éducation et l’agriculture.