Des risques pour les droits humains avec l’IA générative
Le Haut-Commissaire de l’ONU aux droits de l’homme a averti que le déploiement de l’intelligence artificielle générative par les grandes plateformes technologiques pourrait menacer certains droits fondamentaux si aucun cadre de garanties n’est instauré.
Lors d’une réunion à Genève, Volker Türk a évoqué le potentiel considérable de l’IA générative, tout en soulignant des risques d’usage à des fins politiques ou économiques qui pourraient manipuler, déformer et détourner l’attention du public.
Il a insisté sur le fait que, sans garanties ni régulations suffisantes, ces systèmes pourraient prendre une dimension inquiétante, rappelant une comparaison au monstre de Frankenstein des temps modernes. Le responsable des droits humains a également pointé les effets du modèle économique actuel des réseaux sociaux, qui favoriserait polarisation, extrémisme et exclusion, et a indiqué que plusieurs pays peinent à maîtriser ce phénomène.
Promesses, risques et droits menacés
Si l’IA générative porte des promesses importantes, les droits humains pourraient en être les premières victimes lorsque l’usage est guidé par des objectifs politiques ou économiques. Le Haut-Commissaire a cité notamment le droit à la vie privée, la participation politique, la liberté d’expression et le droit au travail comme particulièrement exposés.
Il a averti que les menaces pourraient se traduire par des préjudices qui remettent en cause les perspectives des technologies émergentes et pourraient entraîner des conséquences difficiles à prévoir. Il a par ailleurs appelé les gouvernements à s’unir pour éviter un tel scénario.
Concentration du pouvoir et incertitudes économiques
Enfin, il a souligné une autre menace liée à une concentration croissante du pouvoir entre les mains d’un petit nombre d’entreprises, ainsi que l’accumulation massive de richesses personnelles et d’entreprises entre les mains d’acteurs limités. Dans certains cas, ce poids peut dépasser celui de pays entiers et, sans encadrement légal, favoriser les abus et l’asservissement.
