Un estudio demuestra que la IA no comprende cómo funciona el mundo y ahonda en las consecuencias negativas de este factor

Raro es el día en el que no tenemos una noticia protagonizada por la inteligencia artificial, la tecnología más popular del momento. Tal es su alcance que compañías de la talla de Microsoft están buscando la forma de integrar sus bondades en ecosistemas como Xbox, un aspecto al que hay que sumar el gasto de 32,4 millones de euros por comprar un dominio relacionado con la IA. Sin embargo, un estudio ha demostrado que, a pesar de la popularidad de estas herramientas, ningún modelo de IA es capaz de comprender cómo funciona el mundo.

Como señala el portal TechSpot en una reciente publicación, los modelos de IA generativa no comprenden verdaderamente las reglas de sistemas complejos. De esta forma, aunque sus respuestas parezcan convincentes y los líderes tecnológicos creen que la IA reemplazará a millones de empleos a la vez que automatizan casi todo, los investigadores invitan a guardar la cautela al advertir sobre sus limitaciones. Por ello, aseguran que los grandes modelos de lenguaje no piensan, sino que predicen palabras basadas en patrones textuales y ello puede dar pie a respuestas inadecuadas.

La IA no superó varias pruebas muy básicas

Para conocer el alcance de esta tecnología, los investigadores del MIT intentaron crear métricas para verificar si la IA generativa realmente entiende el mundo. Así, estuvieron modelos de la talla de GPT-4 y se centraron en su comprensión genuina del contexto, planteando problemas definidos como navegación urbana en Nueva York o jugar al juego de Othello. Sin embargo, a pesar de que podía ofrecer direcciones precisas y trazar movimientos válidos en Othello, lo cierto es que su precisión caía una vez se introducían cambios mínimos en el entorno.

Cuando se añadieron desvíos al mapa de Nueva York, los modelos de IA sugirieron caminos imposibles, demostrando así que eran incapaces de adaptarse a las reglas de un mundo real con cambios constantes. De hecho, cerrando solo un 1% de las calles, la precisión de la inteligencia artificial cayó del 100% hasta el 67%, evidenciando de esta forma su incapacidad para ajustar respuestas dentro de un entorno dinámico. Por ello, aunque los modelos de IA puedan parecer inteligentes, debemos tener en cuenta que no comprenden el mundo que les rodea.

En 3DJuegos | Científicos crean una IA capaz de crear otras IA sin supervisión humana y plantean un problema ético sin precedentes

En 3DJuegos | NVIDIA mete presión a su mayor socio de chips de IA, pero Samsung no tiene la intención de quedarse de brazos cruzados

Imagen principal de Andrea de Santis (Unsplash) 

–
La noticia

Un estudio demuestra que la IA no comprende cómo funciona el mundo y ahonda en las consecuencias negativas de este factor

fue publicada originalmente en

3DJuegos

por
Abelardo González

.