Apple ha centrado una gran parte de su estrategia de futuro en la inteligencia artificial. De esta forma, la compañía se encuentra trabajando en la integración de Apple Intelligence en el iPhone 16, pero aún no ha ofrecido detalles sobre la fecha de lanzamiento oficial o la llegada de este servicio a Europa. Y, a medida que profundiza en la IA y el impacto que esta tiene en la sociedad, lleva a cabo varios estudios centrados en esta tecnología. Sin embargo, no todos arrojan resultados positivos a la altura de las expectativas de la compañía.
Como señala el portal Ars Technica en una reciente publicación, un estudio de seis ingenieros de Apple ha revelado que modelos avanzados de lenguaje como ChatGPT o Gemini presentan fallos graves en el razonamiento lógico matemático cuando se enfrentan a cambios triviales en los problemas. Así, cuentan con una fragilidad extrema en su razonamiento matemático, ya que dependen de patrones probabilísticos en lugar de una comprensión formal de los conceptos subyacentes.
Por desgracia para la inteligencia artificial, cambiar algunos nombres o números en los problemas matemáticos llevó a experimentar caídas en la precisión de entre el 0,3% y el 9,2%. De esta forma, no solo se mostró una gran variación en los resultados de diferentes modelos, sino que los investigadores concluyeron que estos no realizan un razonamiento formal real. Así, lo que hacen es intentar imitar los pasos de razonamiento observados en los datos de entrenamiento. Por ello, cuando se añadieron detalles irrelevantes a los que se les dio importancia, la precisión cayó de forma catastrófica: entre un 17,5% y un 65,7%.
Al toparse con datos irrelevantes, los modelos tienden a hacer operaciones incorrectas (como, por ejemplo, restar datos sin relevancia) y ello lleva a un fallo crítico en su razonamiento. De esta forma, este estudio refuerza investigaciones previas que sugieren que los modelos de lenguaje solo imitan el razonamiento humano utilizando coincidencias de patrones en lugar de entender realmente los problemas. Por ello, la IA genera una “ilusión de comprensión” que, a su vez, genera fallos cuando se les presenta información que no encaja con los datos de entrenamiento. Por ello, expertos como Gary Marcus creen que el próximo gran avance llegará cuando los modelos puedan realizar una manipulación simbólica real y sean capaces de razonar los cambios.
En 3DJuegos | Un youtuber denuncia que una empresa ha copiado su voz con Inteligencia Artificial para sacar beneficio económico de ello
Imagen principal de Zheny Luo (Unsplash)
–
La noticia
Un estudio de Apple revela la principal grieta de la inteligencia artificial y cómo afecta a su rendimiento real
fue publicada originalmente en
3DJuegos
por
Abelardo González
.
La cocina es centro social y estético del hogar y merece lucir un diseño impecable…
El Teatro Calderón se ha convertido en el epicentro del talento, la creatividad y la…
Sleepy Sentry, el estudio independiente finlandés responsable del juego de culto Stirring Abyss , ha lanzado una…
Zooseum Ya Está Disponible, Mes de Lanzamiento Ofrecerá Apoyo a la RSPCA y la Actualización…
El Pokémon Legendario Mewtwo aparece en una misión secundaria adicional de Leyendas Pokémon: Z-A The Pokémon…
Los guardianes ahora pueden blandir el Filo práxico, la nueva espada excepcional personalizable que es…