AI-Controlled Drone Goes Rogue, 'Kills' Human Operator in USAF Simulated Test

Alors le titre est un peu putaclic, vu qu'il s'agissait d'une simulation et non d'un test IRL, aucun humain n'est mort, d'autant que le porte-parole de l'USAF nie qu'il y ait eu un tel test.

Au-delà de ça, ce qui m'amuse le plus c'est que c'est très exactement comme cela qu'on prévoit depuis des décennies qu'une IA agirait dans ces conditions. Il est donc étonnant que la nouvelle étonne, mais il est encore plus étonnant que l'ensemble de l'équipe technique n'ait pas pris des mesures pour éviter cette éventualité. Si, par exemple, le tir du drone se trouvait sur un circuit séparé exigeant l'input à la fois de l'IA et de l'opérateur, l'IA n'aurait aucune raison de s'en prendre à l'opérateur, et ne pourrait de toute façon que constater l'impossibilité de faire feu.

Donc ce qui est le plus drôle, si cette histoire est vraie, c'est qu'il n'y ait eu personne pour réfléchir dix minutes.

Edit : on sait à présent que l'histoire est fausse, le colonel rapportant cette anecdote s'est mal exprimé et il ne s'agissait que d'une expérience de pensée…