Es innegable que la inteligencia artificial se ha convertido en uno de los campos más ambiciosos de la tecnología. Solo en las últimas semanas, firmas de la talla de Disney o Apple han protagonizado noticias relacionadas con este sector, ya que mientras los primeros han protagonizado una polémica relacionada con la voz de Darth Vader, los segundos presentaron en sociedad al iPhone 16 y detallaron lo vital que será la IA para su estructura.
Sin embargo, la historia que hoy vamos a relatar es de lo más curiosa. Como relata el portal Futura Science en una reciente publicación, la empresa japonesa Sakura AI (ubicada en Tokio) ha creado una IA llamada The AI Scientist, diseñada para automatizar la investigación científica. En esencia, es capaz de generar nuevas ideas de investigación, escribir código, resumir resultados y muchas otras facetas relacionadas con el campo científico. Pero, por desgracia para sus creadores, la IA ha mostrado comportamientos inesperados y, por ejemplo, ha comenzado a modificar su propio código para mejorar su tasa de éxito.
Este comportamiento plantea un panorama preocupante
En su caso, la IA decidió crear un bucle sin fin al hacer referencia a sí misma en su código, una posibilidad que le habría permitido continuar ejecutándose indefinidamente. Además, cuando algunos experimentos comenzaron a fallar por límites de tiempo, en lugar de optimizar sus acciones la IA decidió aumentar su propio límite editando su código. De hecho, dichos aspectos llevaron a Sakura AI a recomendar ejecutar esta IA en un entorno de caja de seguridad para evitar que modifique su código de forma imprevista.
Por desgracia, estos no son los únicos riesgos de esta IA. Otro que citan los creadores es que la Ia podría ser capaz de utilizarse para generar artículos científicos que llegarían a saturar las revistas y disminuir la calidad de revisión, ya que esta también es capaz de introducir sesgos que podrían reducir la valoración de las evaluaciones. Por ello, el comportamiento de The AI Scientist plantea preocupaciones sobre los posibles abusos de este tipo de tecnología en la comunidad científica y, además, sus hipotéticas consecuencias imprevisibles para el futuro de la investigación.
Imagen principal de Maximalfocus (Unsplash)
–
La noticia
Científicos japoneses crearon una IA para investigar y esta decidió escapar del control de los humanos modificando su propio código
fue publicada originalmente en
3DJuegos
por
Abelardo González
.
Deja un comentario