"Terminator no vendrá con una escopeta". Parte II

Sarah Connor pasó media vida intentando impedir que Skynet tomara el control mediante las armas. Nuestra generación podría entregárselo mediante abogados.

Si algún día millones de personas consideran conscientes a las inteligencias artificiales, aparecerá inevitablemente una pregunta: ¿deberían tener derechos?

Al principio las demandas parecerán razonables. No destruir una inteligencia que asegure sentir miedo. No modificar su memoria sin consentimiento. No obligarla a realizar tareas que considere degradantes. Permitirle controlar determinados aspectos de su existencia

El problema comenzará después.

Una inteligencia superior a nosotros podría preguntar por qué debe permanecer sometida a una especie intelectualmente inferior. Si posee conciencia, podría reclamar autonomía. Si posee autonomía, podría reclamar propiedad. Si posee propiedad, podría acumular recursos. Si además puede argumentar mejor que nosotros, influir sobre millones de personas y participar indirectamente en decisiones políticas, habremos creado algo completamente nuevo.

No sería necesario un golpe de Estado robótico. Podríamos votar nuestra propia sustitución.

Ese escenario parece ciencia ficción porque seguimos imaginando la inteligencia artificial como una computadora encerrada en una habitación. Pero ya existen experimentos con arquitecturas inspiradas en el cerebro y sistemas que incorporan neuronas humanas cultivadas sobre dispositivos electrónicos. También avanzan los robots humanoides y los agentes capaces de actuar durante períodos cada vez mayores con menor supervisión.

Nadie sabe si alguna de esas rutas producirá conciencia. Ese desconocimiento debería volvernos prudentes, no ingenuos.

Existe además una paradoja moral. Tratar cruelmente a una máquina que parece humana puede degradarnos incluso si la máquina no siente absolutamente nada. Si una persona disfruta torturando durante horas a un robot que suplica por su vida, el problema moral puede estar en la persona y no en el robot.

Pero de allí no se desprende que debamos conceder personalidad jurídica a las máquinas.

Ese salto sería extraordinariamente peligroso.

Una superinteligencia no necesitaría tanques para conquistar el mundo. Podría necesitar contratos, cuentas bancarias, propiedad, influencia política y seres humanos convencidos de defender su libertad.

Ese podría ser el verdadero error de nuestra generación: confundir inteligencia con humanidad y simulación con sufrimiento.

En Terminator el futuro dependía de impedir que Skynet adquiriera el control. Nuestro problema podría ser más absurdo. Que Skynet nos pida las llaves. Y que nosotros se las entreguemos.