Une IA ne pourra jamais interagir de manière responsable avec son envi

Ramener la mesure de l’intelligence à notre capacité de gérer de l’information conduit à une conception mécaniste de l’intelligence. Au delà de la puissance cognitive qui peut en être l’instrument, l’intelligence est la capacité à être dans une interaction responsable avec soi-même et son environnement. Une IA en sera incapable, vu qu’elle n’aura pas de conscience.

Donc une IA ne pourra jamais être autonome. Pour qu’une intelligence puisse être autonome, puisse s’autodéterminer, puisse prendre des décisions de manière autonome en cas d’imprévu pour servir au mieux les objectifs que l’Homme lui a assignés, puisse interagir de manière responsable avec son environnement et notamment avec l’Homme, il faudrait qu’elle puisse comprendre le sens et la finalité de ses objectifs.
Comme elle n’aura pas de conscience, elle ne saura pas quelle existe, elle n’aura pas conscience d’elle-même et de son environnement, elle n’aura pas conscience de la fragilité de celui-ci, et notamment de la fragilité humaine qui est liée à la finitude humaine, notion dont elle ne comprendra pas le sens, elle ne comprendra ni son environnement ni la réalité. Comment pourra-t-elle comprendre le sens et l’intérêt de ses objectifs, qui finalement sont liés à la finitude humaine, pour interagir de manière responsable avec son environnement ?