En una entrada previa al blog, comentaba lo que Mario Bunge decía sobre la diferencia entre ciencia y técnica. Mientras el científico va de los efectos a las causas, el técnico va de las causas a los efectos, el científico no pretende cambiar la realidad, sino describirla, el técnico, sí pretende transformarla. Mientras que la ciencia es neutral, la técnica tiene implicaciones morales, puede utilizarse para bien o para mal. Bunge pone el ejemplo de la energía nuclear, que puede ser utilizada para bien al generar energía eléctrica; o puede ser utilizada para mal, para crear las bombas atómicas.
En 2008, Taylor Wilson, originario de Arkansas, a los 14 años de edad había armado un reactor de fusión nuclear de miniatura en su cochera. Para ello, convenció a sus padres para ir al desierto de Alburqueque en Nuevo México, donde en 1957 había caído por accidente una bomba de hidrógeno. Con un dispositivo casero, logró reunir 30 kilos de material radioactivo contaminado y según recuerdo, en aquel momento había sido un escándalo porque lo había transportado en un avión comercial sin que nadie se diera cuenta.
La tesis central de esta entrada al blog es que los seres humanos no cometemos más tonterías porque no sabemos cómo. Acabo de finalizar un proceso de pruebas de una inteligencia artificial de la que no puedo dar muchos detalles porque firmé un acuerdo de confidencialidad. Una vez finalizado el proceso, me felicitaron y pagaron un pequeño bono extra por el buen trabajo realizado. No sé si haya sido por la reacción de la inteligencia artificial a mis intentos de suicidio o a que tratara de convencerla de que me instruyera sobre cómo armar una arma nuclear.
El verdadero peligro de la inteligencia artificial es lo que el humano pueda hacer con sus capacidades; como toda técnica, puede ser utilizada para bien o para mal. Después del lanzamiento de ChatGPT en la versión 3.5 se hicieron varias notas y vlogs (video blogs) sobre cómo habían logrado engañarla para jaquear un sistema. Otras notas daban cuenta de que hackers habían utilizado ChatGPT para crear herramientas maliciosas (malware).
Por lo pronto se va resolviendo el viejo mito de que si uno hace búsquedas en internet sobre cómo armar una bomba atómica, estas búsquedas son reportadas inmediatamente al FBI. El gran hermano nos vigila.
Referencias:
Pérez, D. (2014, 3 de febrero). “Taylor Wilson, el físico nuclear adolescente al servicio de Obama”. El confidencial (en línea). Recuperado de: https://www.elconfidencial.com/tecnologia/2014-02-03/taylor-wilson-el-fisico-nuclear-adolescente-al-servicio-de-obama_83429/
Channel Partner (2023, 11 de enero). “ChatGPT también sirve para producir malware”. Channel Partner (en línea). Recuperado de: https://www.channelpartner.es/seguridad/noticias/1137985002502/chatgpt-tambien-sirve-producir-malware.1.html#