Comment responsabiliser l'IA pour ses actions

1er juin 2017 

par Bob Yirka

(Tech Xplore) - Un trio d'universitaires a écrit et publié une partie de Focus dans la revue Science Robotics sur la nécessité de responsabiliser les systèmes d'intelligence artificielle de leurs actions. Sandra Wachter, Brent Mittelstadt et Luciano Floridi, tous avec l'Oxford Internet Institute, suggèrent qu'il existe trois difficultés majeures dans le sens d'une telle action, mais elles ne devraient pas suffire à décourager la mise en œuvre de stratégies destinées à protéger des actions entreprises par les machines .

Les films de science-fiction offrent une vision claire de ce que les robots sont devenus capricieux, mais moins a été démontré en ce qui concerne la technologie sous-jacente, l'intelligence artificielle. Le terme est lâché librement, mais il couvre beaucoup de terrain. Lorsque vous postulez pour une carte de crédit, par exemple, un système AI prend la décision, ou lorsque vous vous asseyez à l'arrière de la voiture auto-conduisant, un système de l'IA vous transportera vers votre destination. AI sera responsable de prendre des décisions, qu'il s'agisse de courir sur un piéton ou de smash dans l'une des voitures de part et d'autre pour éviter les accidents. En tant qu'êtres humains, nous voulons la reddition de comptes - si une voiture Google s'écrase quelque temps bientôt, nous devrions tous blâmer Google. Mais qu'en est-il dans un avenir plus éloigné, il y a deux véhicules de différentes compagnies qui s'écrasent? Comment un agent d'assurance pourrait-il déchiffrer le jargon technique susceptible de se produire au cours d'un procès si les humains ont été blessés  Ce sont les types de problèmes abordés par les auteurs.

Dans leur article, les auteurs suggèrent qu'il existe trois difficultés principales qui empêchent les machines de respecter les mêmes normes que les humains qui les créent. La première est la nature diverse de ces machines. Ils notent qu'une distinction doit être faite entre les robots et les systèmes d'AI; Le premier est le matériel et le logiciel, ce dernier est un système capable de prendre des décisions en fonction de ce qu'il a appris. Mais ils soulignent également que les systèmes d'AI sont tellement différents l'un de l'autre qu'il semble presque impossible de trouver un système de responsabilité qui s'applique à tous.

Un autre problème est la transparence. En rencontrant un système d'AI, ne serait-il pas agréable de savoir comment cela s'est produit  Comment cela at-il pris ses décisions  Nous savons tous que le logiciel est impliqué, que les routines qui exécutent des algorithmes sont en train de broyer et que les données sont stockées et récupérées, de sorte que le cloud est probablement impliqué. Mais comment savons-nous ce qu'un système donné fait réellement  Un qui pourrait prendre une décision qui pourrait très sérieusement influer sur notre vie  Les commentaires des auteurs seront difficiles.

Le troisième problème est la construction. L'IA est sous plusieurs formes, comme un système invisible derrière la voix du robot qui répond lorsque vous appelez pour un support, par exemple, ou comme un robot qui surveille et jugez votre comportement, ou la vérification orthographique simple mais ennuyeuse sur votre téléphone que Incline votre signification.

Malgré ces difficultés, les chercheurs suggèrent que des solutions sont possibles. Ils soulignent la manière dont les différents pays abordent le problème, en notant les tentatives de traiter de tels problèmes, comme la passation de la législation. Nous n'avons peut-être pas encore les réponses, mais ils prétendent qu'il ne faut pas nous empêcher de les trouver et de prendre des mesures.

https://techxplore.com/news/2017-06-ai-accountable-actions.html