DeepSeek y los riesgos de sesgos y transparencia en inteligencia artificial

DeepSeek: Sesgos y Transparencia en la Inteligencia Artificial

DeepSeek, una inteligencia artificial desarrollada por una startup china, ha sido objeto de críticas por sus sesgos en el uso de datos y la falta de transparencia en sus operaciones. Empresas de tecnología han alertado sobre los riesgos asociados a estos problemas, que podrían afectar la confiabilidad de sus modelos tecnológicos.

Los Sesgos en los Datos y las “Alucinaciones” de la IA

Robert Calva, líder de soluciones del ecosistema para Latinoamérica en Red Hat, advirtió que los sesgos en el uso y procesamiento de datos pueden generar lo que se conoce como “alucinaciones” en los modelos de IA. Estas alucinaciones ocurren cuando la información proporcionada al usuario final es incorrecta debido a la falta de transparencia en el entrenamiento de los modelos.

“La falta de transparencia en cómo fueron entrenados los modelos tecnológicos generará sesgos informativos, lo que a su vez provocará que existan alucinaciones dentro de la IA”, explicó Calva en una entrevista con Grupo REFORMA.

El Dilema del Código Abierto

DeepSeek opera bajo un modelo de código abierto, lo que permite que cualquier persona pueda acceder, modificar y distribuir su software. Sin embargo, Calva señaló que este enfoque conlleva riesgos significativos, especialmente cuando se desconoce cómo se maneja la información.

“Lo ideal es que el software pase por un modelo de auditoría y revisiones constantes del código para que se le dé soporte. El código abierto es bueno porque evoluciona, pero si estos datos son comunitarios, se corre el riesgo del uso que le dan terceras personas o compañías”, añadió.

Control de Información y Censura

Guillermo Varela, director general de la consultora GCG, destacó que DeepSeek presenta un sesgo de información debido a las prácticas del gobierno chino, que controla el acceso a la información en medios masivos y filtraciones de datos.

“Cualquier cosa que vaya en contra de los ideales de su sistema se ha podido comprobar que las respuestas que brinda DeepSeek respecto a temas políticos o polémicos es claramente filtrada y/o censurada”, afirmó Varela.

Privacidad y Confidencialidad en Entredicho

Existen dudas sobre cómo DeepSeek maneja la confidencialidad de la información y la privacidad de los datos compartidos. Aunque su política menciona reglas estrictas para manejar datos anónimos y no almacenar conversaciones en sus servidores, su naturaleza “inmadura” genera cuestionamientos sobre su uso en escenarios empresariales o de investigación.

Transparencia Limitada y Riesgos Geopolíticos

Alexandre Zilliox y Karen Kharmandarian, especialistas en gestión de portafolio, coincidieron en que la transparencia de DeepSeek sigue siendo limitada. Esto se debe en parte al contexto geopolítico en el que se desarrolla la tecnología china, lo que aumenta los riesgos asociados al uso de sus datos.

“La transparencia sobre las operaciones de la compañía sigue siendo limitada”, apuntaron los expertos en un análisis reciente.

En resumen, DeepSeek enfrenta desafíos significativos en términos de sesgos, transparencia y privacidad, lo que plantea dudas sobre su fiabilidad y aplicabilidad en entornos críticos.