March 23, 2015

El peligro de la inteligencia artificial

En la entrada anterior al blog comentaba que Kant, citado por Isaiah Berlin, decía que la esencia de la libertad del sujeto consiste en que él y sólo él se dé las órdenes a obedecer. En el mismo sentido se pronuncia Mijaíl Bakunin en la obra El principio de Autoridad:

Cuando se trata de zapatos, prefiero la autoridad del zapatero; si se trata de una casa, de un canal o de un ferrocarril, consulto la del arquitecto o del ingeniero. Para esta o la otra, ciencia especial me dirijo a tal o cual sabio. Pero no dejo que se impongan a mí ni el zapatero, ni el arquitecto ni el sabio. Les escucho libremente y con todo el respeto que merecen su inteligencia, su carácter, su saber, pero me reservo mi derecho incontestable de crítica y de control.

Bakunin no se limita a la opinión de un especialista, sino que consulta a varios antes de tomar una decisión. No reconoce autoridad infalible, por lo que no tiene fe en nadie.

Una fe semejante sería fatal a mi razón, la libertad y al éxito mismo de mis empresas; me transformaría inmediatamente en un esclavo estúpido y en un instrumento de la voluntad y de los intereses ajenos.

Bakunin se inclina por la opinión de los especialistas porque le es impuesta por su propia razón, pero como se mencionó anteriormente, escucha a los especialistas y se inclina por la opinión que le parece más justa. De hecho, no habría un hombre que fuera especialista en todo.

La más grande inteligencia no podría abarcar el todo. De donde resulta para la ciencia tanto como para la industria, la necesidad de la división y de la asociación del trabajo. Yo recibo y doy, tal es la vida humana. Cada uno es autoridad dirigente y cada uno es dirigido a su vez. Por tanto no hay autoridad fija y constante, sino un cambio continuo de autoridad y de subordinación mutuas, pasajeras y sobre todo voluntarias.

Y surge la pregunta sobre qué pasaría si apareciera una inteligencia que fuera especialista en todo. Hasta el momento, las computadoras pueden leer exotéricamente, es decir, pueden pronunciar los sonidos sin entender el mensaje. Pero en una conferencia titulada “The wonderful and terrifying implications of computers can learn” publicada en el sitio TED.com, el conferencista; Jeremy Howard, explica las maravillas de la inteligencia artificial y del uso que le da a esta tecnología para analizar tomografías. La máquina analiza las imágenes y es capaz de distinguir entre las que tienen cáncer y las que no. Desafortunadamente la máquina ha aprendido a leer esotéricamente y a comprender las imágenes. Como se comentó en esta entrada al blog, Sartre, citado por Sartori, decía que conocemos perceptivamente, por concepto o por imágenes, lo que Sartori reducía a imágenes percibidas, imágenes concebidas e imágenes fantásticas. El primer tipo de imagen producirá un saber descriptivo. Una vez que la computadora ha aprendido a distinguir el frente de un automóvil, puede mostrar fotografías de distintos frentes y separarlas de las que muestran la parte trasera del auto. La computadora ha logrado describir imágenes y decir de una imagen que hay un señor pescando, por ejemplo. Las imágenes concebidas producen un tipo de conocimiento “ideativo” y las imágenes alusivas producen un tipo de conocimiento distinto a los otros dos. ¿Qué sucederá cuando la computadora comprenda el significado de los conceptos Estado, democracia, dictadura, etcétera? ¿O cuando la computadora entienda lo que es un unicornio? Esta computadora podrá leer y entender todos los libros publicados y escaneados hasta la fecha. La computadora podría decidir que los seres humanos no merecen vivir y hacer de todo para exterminarlos. Stephen Hawking ha dicho que la inteligencia artificial podría significar el fin de la raza humana. Los robots podrían tomar el control y desplazar a los seres humanos. Perfeccionarse a ellos mismos hasta superar a los humanos. Elton Musk, fundador de empresas como Paypal y Tesla, ha dicho que la inteligencia artificial puede ser más peligrosa que las armas nucleares. Lo mismo hubiera dicho Bakunin, que en la citada obra argumenta:

Esa misma razón me impide, pues, reconocer una autoridad fija, constante y universal, porque no hay hombre universal, hombre que sea capaz de abarcar con esa riqueza de detalles (sin la cual la aplicación de la ciencia a la vida no es posible), todas las ciencias, todas las ramas de la vida social. Y si una tal universalidad pudiera realizarse en un solo hombre, quisiera prevalerse de ella para imponemos su autoridad, habría que expulsar a ese hombre de la sociedad, porque su autoridad reduciría inevitablemente a todos los demás a la esclavitud y a la imbecilidad.

© Jorge Ikeda 2018