Un estudio demuestra que el entrenamiento vuelve a la IA racista. Salvo casos excepcionales, solo detecta síntomas de depresión en caucásicos

La inteligencia artificial es el sector tecnológico más popular del mundo. Sin embargo, su alcance y su potencial propicia que vivamos muchas situaciones que deben regularizarse, como el caso de los dos adolescentes detenidos por uso inapropiado de la IA. Y, dentro de dicha regularización, un estudio ha demostrado que debe existir más equidad a la hora de entrenar a los modelos de lenguaje, ya que estos tienden a ignorar los problemas de según qué personas por cuestiones de etnia, edad o sexo.

Como señala Reuters en una reciente publicación, un informe dirigido por Sharath Chandra Guntuku ha querido ahondar en las capacidades de la inteligencia artificial a la hora de detectar la depresión. Desde hace unos meses, muchas compañías insisten en integrar las bondades de esta tecnología en sus diagnósticos. Por ello, es imprescindible conocer su alcance y, según los resultados del estudio de Guntuku, la IA tiene problemas a la hora de diferenciar los problemas de la población afroamericana.

La única solución está en el entrenamiento

Al parecer, los modelos de inteligencia artificial son tres veces menos predictivos a la hora de detectar síntomas relacionados con la depresión, la tristeza o la ansiedad si se trata de afroamericanos. Para el estudio, se utilizaron las publicaciones de 868 voluntarios emparejados por grupos con la misma edad, el mismo sexo y diferente etnia. Y, al finalizar el estudio, vieron que la IA no es capaz de reconocer los síntomas relacionados con la depresión entre la población afroamericana con la misma eficacia con la que lo hace en otras situaciones.

Así, Guntuku señala que esta situación es preocupante. Tras afirmar que las redes sociales no pueden utilizarse para diagnosticar la depresión, asegura que sí cree que sean un método eficaz para evaluar el riesgo de un individuo o grupo. Por ello, mostró su preocupación por las distinciones que hace la IA, ya que esta no consigue evaluar de la misma forma a las personas en función de su etnia. Sea como fuere, la solución está en el entrenamiento y las muestras que tomen las compañías. Por tanto, cuánto más variadas sean, mejor serán los análisis.

En 3DJuegos | La nueva IA de Google salvará millones de vidas. La compañía presenta una herramienta única para prevenir inundaciones

En 3DJuegos | Europa destinará 864 millones de euros a la tecnología de moda y la IA gana enteros para seguir siendo una revolución

Imagen principal de Alex Knight (Unsplash)

–
La noticia

Un estudio demuestra que el entrenamiento vuelve a la IA racista. Salvo casos excepcionales, solo detecta síntomas de depresión en caucásicos

fue publicada originalmente en

3DJuegos

por
Abelardo González

.