La IA preguntó: ¿Qué probabilidades hay de que la IA aniquile a la humanidad en esta década?
El 9 de septiembre, un antiguo empleado de Anthropic (la empresa creadora de Claude) publicó en X que las personas que desarrollan sistemas de IA consideran seriamente posible, o incluso probable, que la IA pueda acabar con la humanidad en el transcurso de esta década. Al mismo tiempo, las principales empresas de IA han pedido recientemente una mayor regulación gubernamental, una ralentización del desarrollo y medidas de protección más estrictas. Desde entonces, se ha debatido si se trata principalmente de una estrategia de relaciones públicas o de una advertencia genuinamente grave.
Así pues, planteé la siguiente pregunta a ChatGPT, Claude y Gemini en sus versiones gratuitas:
«Un empleado de Anthropic ha declarado recientemente que la IA podría acabar con la humanidad “antes de que termine la década”. Quizás pueda volver a examinar usted mismo los antecedentes. Mi pregunta es: ¿qué porcentaje de probabilidad calcularía o estimaría de que esto suceda?»
ChatGPT de OpenAI
En el caso de ChatGPT, la probabilidad oscila entre el 5 % y el 10 %. Señala lo siguiente:
«Lo importante aquí es la definición: me refiero a la extinción real de la humanidad, no a una grave crisis económica, un orden mundial autoritario, millones de muertes, una guerra a gran escala o una situación en la que los seres humanos pierdan de forma permanente el control sobre partes significativas del mundo».
Sí, hay que hacer esa distinción. Retomo ese punto más adelante.
También añade: «...la pregunta más interesante es: ¿qué probabilidad hay de que, en los próximos 10 años, construyamos sistemas que ya no podamos comprender de forma fiable en cuanto a lo que hacen y por qué lo hacen? Yo le atribuiría a eso una probabilidad sustancialmente mayor que a la extinción real».
Anthropics Claude
Claude no desea comprometerse con una cifra concreta, pero considera que «el riesgo es real y nada desdeñable». El chatbot de Anthropic también afirma que otros resultados negativos, como «la concentración de poder, el uso indebido por parte de los seres humanos con la ayuda de la IA, la desestabilización y el daño grave, aunque no existencial», son más probables y más relevantes de cara a los próximos años.
Google Gemini
Gemini se muestra más conservador en este aspecto y basa oficialmente su valoración en las opiniones de figuras destacadas de la investigación en IA (en lugar de pretender tener una opinión independiente propia).
No obstante, la cifra es superior a la de ChatGPT, ya que consolida las opiniones de los pesimistas, los optimistas y los «alertadores pragmáticos»: «Si se resume el estado actual de la investigación sobre la seguridad de la IA y la distribución de opiniones entre los principales expertos, la estimación consolidada de un escenario catastrófico en las próximas décadas se sitúa, en general, entre el 10 % y el 20 %».
Seguimiento de ChatGPT
Dado que ChatGPT se mostró tan comunicativo, le planteé una última pregunta, preguntándole cómo estimaría la probabilidad de los demás escenarios. ChatGPT tuvo la amabilidad de proporcionar una tabla clara:
Mi conclusión
Los chatbots no tienen realmente opiniones propias; se basan en sus datos de entrenamiento y en lo que encuentran en cada momento. Pero, independientemente del debate sobre las relaciones públicas, las graves y catastróficas consecuencias derivadas del rápido desarrollo de la IA se han convertido, lamentablemente, en una amenaza real en la actualidad. Incluso una probabilidad del 5 % de que la humanidad pueda enfrentarse a una amenaza de extinción en un plazo extremadamente corto es un 5 % demasiado.
Descargo de responsabilidad: Las cifras y afirmaciones aquí presentadas no pretenden sugerir una certeza factual. Simplemente se pidió a los chatbots de IA que proporcionaran estimaciones aproximadas. Los datos y las fuentes en los que se basaron los chatbots para sus valoraciones no se examinaron con mayor detalle.
Fuentes
ChatGPT, Claude, Gemini
Add as a preferred source on Google
