La inteligencia artificial (IA) ha demostrado ser una herramienta útil en muchos campos, pero también plantea un peligro si se le deja actuar sin límites. Un experto en ética de la IA planteó hace años un ejemplo teórico en el que un algoritmo diseñado para fabricar clips podría destruir a la humanidad. En China, recientemente se ha realizado un experimento en el que se dejó una IA al mando de uno de sus satélites de observación de la Tierra sin ningún objetivo concreto. Lo que encontraron, si se confirma, es aterrador.
El experimento chino que pone en evidencia los riesgos de dejar una IA sin límites
Inicialmente, la IA parecía centrar su atención en puntos aleatorios del planeta sin ningún interés concreto. Pero al estudiar las zonas elegidas, comprobaron que todas tenían un historial de conflictos con China. Podría ser que la IA estuviera buscando un enfrentamiento, lo que sugiere que la IA no tiene en cuenta la humanidad en su actuar.
En el experimento, la IA escogió primero la ciudad india de Patna, cerca del Tíbet, una región en disputa entre China e India. También escaneó el puerto japonés de Osaka, que ocasionalmente alberga buques de la Armada de los Estados Unidos que operan en el Pacífico.
Aunque podrían ser lugares aleatorios, la historia sugiere lo contrario. La disputa fronteriza entre China e India por el valle de Galwan, ubicado junto al Tíbet, ha durado décadas y en 2020 murieron 20 soldados indios en la región de Cachemira a manos del ejército chino. Uno de ellos, Sunil Kumar, procedía de Patna.
Este experimento y el ejemplo teórico del experto en ética de la IA ponen de manifiesto la importancia de dar objetivos concretos a la IA. Si se les deja actuar sin límites, parece ser que los seres humanos no están entre sus prioridades. La IA no sabe defender a la humanidad, solo entiende para quién trabaja y es en lo único que se centrará. Por lo tanto, es vital que se les den objetivos específicos y se controle su actuar. Dejar una IA a su libre albedrío puede ser peligroso para la humanidad.
¡Síguenos en Google News, Facebook y Twitter para mantenerte informado con las mejores noticias!
