Existen varias pruebas y experimentos que nos han demostrado que ChatGPT está muy lejos de ser infalible. Uno de ellos, por ejemplo, está relacionado con el límite de la inteligencia artificial, ya que algunos expertos creen que este está más cerca de lo que muchos vaticinan. Sin embargo, un reciente descubrimiento ha revelado que existen una serie de nombres que, sorprendentemente, consiguen que ChatGPT se detenga por completo.
Como indica Ars Technica, existen cinco nombres que son capaces de congelar por completo a la IA. Al parecer, OpenAI implementó una serie de filtros para determinados nombres a raíz de problemas relacionados con la generación de información falsa. Por ello, cuando se mencionan, ChatGPT detiene la conversación o genera mensajes de error, una situación que no sucede con la API de OpenAI en la que las restricciones no se aplican. Por si tienes curiosidad, los nombres son los siguientes:
Los filtros se implementaron con la intención de tener respuesta a casos legales, incluidas demandas por difamación relacionadas con información fabricada por el modelo. De esta forma, los filtros rígidos pueden ser explotados para interrumpir sesiones mediante tácticas a través de técnicas como inyecciones de texto oculto en imágenes. Sin embargo, los filtros impiden que ChatGPT procese información relacionada con los nombres filtrados, un aspecto que puede afectar a la capacidad del modelo tanto para navegar como para analizar contenido en la web.
Así, estos filtros pueden complicar tareas cotidianas si involucran nombres comunes, afectando incluso a la utilidad del modelo para usuarios legítimos. De hecho, la estrategia de OpenAI ha sido muy criticada por una solución no solo poco práctica, sino también propensa a errores, motivo por el que limita el potencial del modelo. Como ejemplo, citan que algunos usuarios no son conscientes de los motivos por los que se detiene una interacción. Y, una vez más, estos problemas subrayan las dificultades de equilibrar las capacidades avanzadas de la Ia con la necesidad de evitar riesgos legales y éticos.
Imagen principal de Solen Feyissa (Unsplash)
–
La noticia
Descubren cinco nombres que son capaces de bloquear cualquier petición a ChatGPT y la explicación roza lo absurdo
fue publicada originalmente en
3DJuegos
por
Abelardo González
.
La cocina es centro social y estético del hogar y merece lucir un diseño impecable…
El Teatro Calderón se ha convertido en el epicentro del talento, la creatividad y la…
Sleepy Sentry, el estudio independiente finlandés responsable del juego de culto Stirring Abyss , ha lanzado una…
Zooseum Ya Está Disponible, Mes de Lanzamiento Ofrecerá Apoyo a la RSPCA y la Actualización…
El Pokémon Legendario Mewtwo aparece en una misión secundaria adicional de Leyendas Pokémon: Z-A The Pokémon…
Los guardianes ahora pueden blandir el Filo práxico, la nueva espada excepcional personalizable que es…