Los investigadores publicaron recientemente en la revista comercial AI Magazine en el analisis Advirtieron que habría «graves consecuencias» si se seguían desarrollando algunos clientes de IA.
Los principales filósofos han advertido previamente sobre los peligros de las formas avanzadas de inteligencia artificial que van más allá de la capacidad mental humana, pero uno de los autores del nuevo estudio dice que estas advertencias no indican la gravedad del problema.
Los informáticos ahora han argumentado que la inteligencia artificial avanzada es una amenaza para la humanidad: una catástrofe existencial no solo es posible, sino probable, escribió el coautor Michael Cohen en Twitter.
Bajo las circunstancias que hemos esbozado, nuestra conclusión es mucho más sólida que cualquier publicación anterior: la catástrofe existencial no solo es posible, sino probable. 3/15
-Michael Cohen (@Michael05156007) 6 de septiembre de 2022
Nos roba recursos
El artículo describe un escenario en el que la IA desarrolla una estrategia de trampa para recibir una recompensa preprogramada. Para maximizar su potencial de recompensa, necesita tanta energía como sea posible. Según el experimento mental, la humanidad finalmente competirá con la inteligencia artificial por los recursos energéticos.
«Sería difícil ganar la carrera con la última energía disponible mientras juegas contra algo más inteligente que nosotros», escribió Cohen. no depende de Según quien la derrota será fatal.
Estas posibilidades, por muy teóricas que sean, significan que tendremos que avanzar lentamente si queremos avanzar hacia el desarrollo de una inteligencia artificial más fuerte.
Los beneficios de la inteligencia artificial son indiscutibles
DeepMind ya ha propuesto una protección contra tal posibilidad, a la que llama el «gran botón rojo». En un artículo de investigación de 2016 titulado Inteligencia artificial interrumpible de forma segura, la compañía describió un marco para evitar que las máquinas avanzadas ignoren las órdenes de apagado y se vuelvan incontrolables.
El profesor Nick Bostrom describió previamente a DeepMind, cuyos logros de IA incluyen vencer a los humanos en el juego de mesa Go y manipular la fusión nuclear, como lo más parecido a la IA a nivel humano. El filósofo sueco también dijo que sería una «gran tragedia» si la IA no continuara desarrollándose, ya que tiene el potencial de curar enfermedades e impulsar la civilización a un ritmo imposible.