Más de 700 científicos, famosos y políticos firmaron un comunicado publicado este miércoles para reclamar el fin del desarrollo de una super Inteligencia Artificial que podría superar las capacidades humanas y causar la extinción de la población humana.
El escrito estuvo a cargo de Future of Life Institute, una organización sin fines de lucro con sede en Estados Unidos que suele detectar y advertir sobre los avances tecnológicos que tienen chances de perjudicar a la humanidad. A través del comunicado la organización detalló que «hacemos un llamamiento para que se detenga el desarrollo de una superinteligencia, hasta que no exista un consenso científico para construirla de forma controlada y segura, y mientras no exista el apoyo de la población».
Max Tegmark, el presidente de Future of Life Institute, cuestionó que «construir algo así es inaceptable» y consideró que las empresas que trabajan en estos proyectos no deberían hacerlo «sin ningún marco regulatorio». Además, el líder del reclamo advirtió que «se puede estar a favor de la creación de herramientas de inteligencia artificial más potentes, por ejemplo, para curar el cáncer, y al mismo tiempo estar en contra de la superinteligencia«.
Los abajo firmantes
Una demostración de que esta movida no consistió en una exigencia por finalizar los trabajos alrededor de toda inteligencia artificial fue que entre los firmantes de la declaración había científicos que actualmente desarrollan otras inteligencias artificiales menos comprometedoras. Entre ellos se encontraban, por ejemplo, el Nobel de Física en 2024, Geoffrey Hinton; el profesor de informática en la Universidad de California, Stuart Russell; y el profesor de la Universidad de Montreal, Yoshua Bengio.
El mismo Hinton detectó «riesgos significativos» en estos desarrollos y consideró que para que los sistemas de superinteligencia sean diseñados deben ser «incapaces de dañar a las personas, ya sea por desalineación o uso malicioso». Por su parte, Russell caracterizó a la carta como «una propuesta para exigir medidas de seguridad adecuadas para una tecnología que, según sus desarrolladores, tiene una probabilidad significativa de causar la extinción humana«.
En el escrito también dieron el presente algunas personalidades destacadas de la tecnología como Richard Branson, fundador del grupo Virgin, y Steve Wozniak, cofundador de Apple. También participaron figuras políticas estadounidenses tanto republicanas como demócratas, ya que estuvieron presentes Steve Bannon –exasesor de Donald Trump– y Susan Rice –consejera de seguridad nacional bajo el mandato de Barack Obama–. Paolo Benanti, el asesor del Papa León XIV que redactó advertencias sobre algunos peligros de la IA, fue otro de quienes se sumaron al pedido al igual que el cantante norteamericano Will.i.am y el Príncipe Enrique de Sussex junto a su esposa, Meghan Markle.
En tanto Sam Altman, director general de OpenAI, la empresa creadora de ChatGPT, había afirmado en el pasado mes de septiembre que el nivel deseado de superinteligencia solo podría alcanzarse dentro de cinco años. Su ausencia como firmante, a la par de las de Mustafa Suleyman –que dirige la IA de Microsoft– y de Elon Musk –de lleno en su proyecto xAI de SpaceX–, se consideró como una respuesta desde Sillicon Valley al debate del mundo tecnológico exponiendo el deseo de continuar con la superinteligencia.
Una clara desconfianza
Si bien los avances de la IA y las nuevas posibilidades que esta ofrece muchas veces son bien valorados, todavía generan desconfianza su alcance y un posible descontrol en su desarrollo. Por ejemplo en Estados Unidos la mayoría de la población pide una estricta regulación sobre esta tecnología.
En la misma sintonía, y frente al hecho por el que se expresó Future of Life Institute, dos de cada tres estadounidenses sostienen que no debe diseñarse una superinteligencia hasta que se demuestre que no son un peligro para la sociedad. Por este antecedente, la carta firmada por expertos en tecnología y desarrolladores de IA pide que la seguridad de este proyecto sea demostrable, que su funcionamiento sea ciento por ciento controlable y que obtenga un alto respaldo público para continuar su camino, algo que en este momento está lejos de ocurrir.
Algunas de las preocupaciones que ya ocurren con el nivel de inteligencia artificial con el que las sociedades conviven actualmente se basan en la formidable propagación de desinformación y en el agravamiento de las crisis de salud mental.
Más historias
Pilotos de Aerolíneas Argentinas ratificaron la medida de fuerza de este viernes
Córdoba: un incendio activo en el Valle de Traslasierra quemó más de mil hectáreas
Lowrdez, excantante de Bandana, apareció en un video: "Estoy perfecta"