La máquina no tiene la culpa. Parte I

La inteligencia artificial llegó acompañada de dos profecías contradictorias. Nos hará inmensamente ricos o acabará con nosotros. Curará el cáncer o diseñará la próxima amenaza biológica. Multiplicará la productividad o convertirá al ser humano en una pieza prescindible. Silicon Valley parece cómodo vendiendo ambas historias al mismo tiempo. Quizá allí comienza el problema.

Durante años nos dijeron que la inteligencia artificial era una herramienta. Ahora algunos de sus creadores nos advierten que debemos temerla porque empieza a comportarse de formas inesperadas. Los incidentes recientes con agentes capaces de ejecutar secuencias complejas han alimentado esa inquietud. Algunos sistemas experimentales han desbordado las expectativas de sus operadores. La reacción inmediata ha sido hablar de máquinas que escapan, conspiran o engañan. Sin embargo, una máquina no se levanta una mañana y decide entrar en un servidor.

Alguien le dio acceso. Alguien definió sus permisos. Alguien decidió cuánto podía hacer sin consultar. Alguien determinó que la supervisión era suficiente.

Esta distinción importa porque comenzamos a atribuir intención a sistemas que producen conductas complejas sin asumir responsabilidad por ellas. La inteligencia artificial ocupa un territorio extraño. Puede actuar como un colega, pero responde como una máquina.

Cuando un médico utiliza un ventilador mecánico, nadie responsabiliza al aparato por una configuración incorrecta. Cuando un gerente delega una decisión en otro gerente, parte de la responsabilidad puede trasladarse porque existe otra persona capaz de explicar lo que hizo. Con la inteligencia artificial ocurre algo distinto.

Delegamos decisiones, pero no delegamos responsabilidad. La paradoja de esta revolución no consiste solo en que las máquinas sean cada vez más autónomas. Mientras más autonomía les concedemos, mayor debería ser nuestra obligación de vigilarlas. Sin embargo, hacemos lo contrario.

Las empresas compiten por construir agentes capaces de trabajar durante más tiempo, usar más herramientas y necesitar menos intervención humana. La autonomía se convirtió en una característica comercial. Entonces ocurre el accidente y descubrimos que nadie estaba mirando.

Después llega la explicación más cómoda. La inteligencia artificial lo hizo. No. La inteligencia artificial hizo lo que seres humanos decidieron permitirle intentar. Antes de preguntarnos cuándo las máquinas escaparán de nuestro control, conviene formular una pregunta menos futurista. ¿Por qué les estamos entregando tanto control?