La derecha alerta sobre la inteligencia artificial avanzada Empleados anteriores y actuales de OpenAI han publicado una carta abierta en línea.
Según los autores de la carta, todo el mundo es consciente de que el desarrollo de la inteligencia artificial entraña graves riesgos. Se trata de la creciente desigualdad social, la difusión de la desinformación y la manipulación, así como el hecho de que la humanidad está perdiendo el control de máquinas que se están volviendo más inteligentes que ella: la llamada singularidad, que amenaza con la extinción de la humanidad.
Mientras escriben, estos riesgos se pueden evitar mediante la participación de la comunidad científica, el trabajo de los legisladores y el público y, en última instancia, la IA.
Puede ser de gran beneficio para la humanidad.
Sin embargo, las empresas que trabajan en este campo intentan por todos los medios eludir la censura y, para ello, intentan silenciar todas las opiniones discrepantes.
OpenAI dejó de proporcionar descripciones técnicas detalladas de sus productos hace años. No se sabe exactamente qué capacidades tienen sus modelos (por lo que una y otra vez surgen rumores de que la máquina se vuelve consciente de sí misma), qué peligro potencial podrían representar para el individuo y la sociedad, y cómo se defiende la empresa contra ellos.
Los autores de la carta advierten que aunque son colegas
Sólo ellos tienen una visión real
sobre el estado del desarrollo de la IA, pero no pueden hablar debido a su acuerdo de confidencialidad. Las protecciones a los denunciantes no se aplican a los denunciantes, porque lo que sucede allí es que alguien revela al público violaciones específicas de la ley, pero OpenAI y empresas similares se están moviendo hacia un territorio completamente nuevo y no regulado. El legislador no ve lo que pasa en estas empresas, sino que lo ven los empleados, lo que nos lleva al punto de partida de este párrafo. En pocas palabras: nada protege a quienes trabajan en IA, aunque crean que hay cosas de qué hablar.
La carta fue firmada por cinco ex empleados de OpenAI, un ex empleado de Google DeepMind, un ex empleado de Anthropic y un empleado actual de Google DeepMind, y seis empleados activos de OpenAI que firmaron de forma anónima. Tres académicos se sumaron al mensaje: Stuart J. Russell, Joshua Bengio y Geoffrey Hinton, considerado uno de los fundadores de la inteligencia artificial.
La última vez que OpenAI vio momentos tan ocupados fue durante la Revuelta del Palacio el invierno pasado. Al mismo tiempo que se publicó la declaración/carta abierta, que incluía información privilegiada, ChatGPT colapsó a nivel mundial. No se sabe si el error fue causado por un error técnico, un ciberataque u otra cosa, solo que se ha solucionado.
Esta no es la primera carta abierta seria en la historia de la inteligencia artificial. Primero, cinco meses después de la introducción de ChatGPT, en marzo de 2023, miles de personas, incluidos Max Tegmark, Yuval Noah Harari, Steve Wozniak y Elon Musk, pidieron que se suspendiera el nuevo entrenamiento de IA durante medio año. Al observar los anuncios de 2023 de Meta, Google, Anthropic y otros, ahora queda claro que esta carta abierta no tuvo ningún impacto en el mundo. Que la última letra la contenga depende de la fuerza del eco.
(cnn, Derecho a advertir…, el borde)
(Foto de cubierta: Jaap Ahrens/NoorPhoto/Getty Images)
¡Sigue a Index en Facebook también!
«Quiero ser un aficionado a la televisión. Entusiasta certificado de la cultura pop. Académico de Twitter. Estudiante aficionado».