La Gran Conversación: ¿Debería la inteligencia tener un límite de velocidad?
Hola a todos, y bienvenidos a La Gran Conversación.
Los seres humanos siempre hemos intentado aumentar nuestras capacidades.
Desarrollamos las matemáticas para calcular aquello que nuestras mentes no podían calcular fácilmente.
Máquinas para realizar trabajos que nuestros cuerpos no podían realizar.
Computadoras para procesar información a velocidades que nunca podríamos igualar.
Y ahora, la inteligencia artificial podría llegar a presentarnos algo fundamentalmente diferente.
No simplemente otra herramienta que amplía la inteligencia humana, sino potencialmente una inteligencia que la supera.
Geoffrey Hinton, uno de los pioneros cuyo trabajo ayudó a hacer posible la inteligencia artificial moderna, está advirtiendo ahora a los gobiernos precisamente sobre esa posibilidad.
Su preocupación no es simplemente que la IA pueda eliminar empleos, difundir desinformación o alterar industrias.
Es que la humanidad podría llegar a crear sistemas más inteligentes que nosotros mismos sin saber primero si podemos controlarlos de manera confiable.
Por ello, Hinton está pidiendo a los gobiernos que prohíban el desarrollo de una IA superinteligente hasta que exista un amplio consenso científico de que tales sistemas pueden desarrollarse de forma segura y controlarse, junto con un fuerte respaldo público para seguir adelante.
Hay algo inusual en este momento.
Durante la mayor parte de la historia humana, una mayor inteligencia ha sido algo que hemos buscado.
Nos educamos para adquirir más conocimiento.
Construimos mejores computadoras porque queremos que resuelvan problemas más difíciles.
Celebramos los descubrimientos precisamente porque amplían los límites de lo posible.
Pero la inteligencia artificial introduce un umbral curioso.
En algún momento, aumentar la capacidad de aquello que creamos también podría disminuir nuestra capacidad para comprender, predecir o controlar lo que esa creación hace.
Y eso crea un conflicto entre dos poderosos instintos humanos.
El deseo de descubrir lo que es posible.
Y la responsabilidad de considerar lo que sucede después.
La competencia complica aún más esta situación.
Las empresas compiten.
Las naciones compiten.
Los investigadores compiten.
Y cuando todos temen que alguien más pueda alcanzar primero el próximo avance, desacelerar puede empezar a parecer más peligroso que seguir adelante.
Sin embargo, la historia contiene otra lección.
La capacidad de crear algo y la sabiduría para gestionarlo no necesariamente llegan al mismo tiempo.
Quizás ese sea el desafío más profundo que presenta la inteligencia artificial.
El progreso tecnológico pregunta: ¿Podemos construirlo?
Pero la responsabilidad plantea una pregunta diferente:
¿Deberíamos construirlo ya?
Lo cual plantea una pregunta más profunda...
Si la humanidad adquiere la capacidad de crear una inteligencia más poderosa que ella misma antes de adquirir la capacidad de controlarla de manera confiable, ¿debería nuestra capacidad de crear determinar hasta dónde llegamos, o debería nuestra capacidad de comprender las consecuencias determinar dónde nos detenemos?
Tómate un momento para reflexionar.
Y haz clic en el enlace de abajo para ver más sobre este tema.
