«La ciencia sin conciencia no es más que la ruina del alma.» François Rabelais
El desarrollo acelerado de la inteligencia artificial (IA) ha abierto un horizonte de posibilidades inéditas para la humanidad. Sin embargo, este avance tecnológico también plantea riesgos profundos que amenazan con socavar los principios fundamentales de justicia, igualdad y dignidad humana. El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, ha advertido que la IA, si se desarrolla sin salvaguardas éticas, podría convertirse en un “monstruo de Frankenstein”, capaz de escapar al control de sus creadores y generar daños irreparables en el mundo real.
La IA no es un fenómeno aislado: se inserta en estructuras de poder económico y político que determinan su impacto social. Türk señala que, si los datos provienen de fuentes limitadas o si el desarrollo está monopolizado por un grupo reducido de actores, los sesgos inconscientes se amplifican y reproducen desigualdades históricas. En este sentido, la IA corre el riesgo de convertirse en una herramienta que refuerce la discriminación y excluya a las minorías y grupos vulnerables.
La metáfora del “genio liberado de la botella” ilustra la dificultad de controlar los efectos sociales de la IA una vez que se despliega sin regulación. El caso de Myanmar, donde las redes sociales amplificaron el discurso de odio contra los rohinyás, demuestra cómo la tecnología puede ser instrumentalizada para dividir sociedades y exacerbar conflictos. La desinformación, la misoginia y el discurso de odio son ejemplos de cómo la IA, sin salvaguardas, puede erosionar el tejido social y desalentar la participación política, especialmente de las mujeres.
Desde una perspectiva crítica, la comparación con la industria farmacéutica resulta pertinente: así como se exige a las empresas farmacéuticas evaluaciones de impacto antes de comercializar un producto, las compañías tecnológicas deberían estar obligadas a realizar evaluaciones de impacto en derechos humanos antes de lanzar herramientas de IA. El poder económico de estas empresas, superior incluso al de algunos Estados, les otorga una responsabilidad global que no puede ser ignorada.
La visión de futuro planteada por Türk apuesta por un desarrollo inclusivo de la IA, donde el poder no esté concentrado en unas pocas corporaciones y donde la diversidad cultural y social sea el fundamento de la innovación tecnológica. La IA responsable debe ser concebida como una herramienta para el bien común: salud, educación, sostenibilidad y justicia social. Sin una visión ética y regulatoria clara, la humanidad corre el riesgo de enfrentar un escenario de polarización extrema y conflictos deshumanizados.
«La tecnología es un siervo útil, pero un amo peligroso.» Christian Lous Lange
