Tecnología
DeepSeek y los riesgos de sesgos y transparencia en inteligencia artificial

DeepSeek: Sesgos y Transparencia en la Inteligencia Artificial
DeepSeek, una inteligencia artificial desarrollada por una startup china, ha sido objeto de críticas por sus sesgos en el uso de datos y la falta de transparencia en sus operaciones. Empresas de tecnología han alertado sobre los riesgos asociados a estos problemas, que podrían afectar la confiabilidad de sus modelos tecnológicos.
Los Sesgos en los Datos y las “Alucinaciones” de la IA
Robert Calva, líder de soluciones del ecosistema para Latinoamérica en Red Hat, advirtió que los sesgos en el uso y procesamiento de datos pueden generar lo que se conoce como “alucinaciones” en los modelos de IA. Estas alucinaciones ocurren cuando la información proporcionada al usuario final es incorrecta debido a la falta de transparencia en el entrenamiento de los modelos.
“La falta de transparencia en cómo fueron entrenados los modelos tecnológicos generará sesgos informativos, lo que a su vez provocará que existan alucinaciones dentro de la IA”, explicó Calva en una entrevista con Grupo REFORMA.
El Dilema del Código Abierto
DeepSeek opera bajo un modelo de código abierto, lo que permite que cualquier persona pueda acceder, modificar y distribuir su software. Sin embargo, Calva señaló que este enfoque conlleva riesgos significativos, especialmente cuando se desconoce cómo se maneja la información.
“Lo ideal es que el software pase por un modelo de auditoría y revisiones constantes del código para que se le dé soporte. El código abierto es bueno porque evoluciona, pero si estos datos son comunitarios, se corre el riesgo del uso que le dan terceras personas o compañías”, añadió.
Control de Información y Censura
Guillermo Varela, director general de la consultora GCG, destacó que DeepSeek presenta un sesgo de información debido a las prácticas del gobierno chino, que controla el acceso a la información en medios masivos y filtraciones de datos.
“Cualquier cosa que vaya en contra de los ideales de su sistema se ha podido comprobar que las respuestas que brinda DeepSeek respecto a temas políticos o polémicos es claramente filtrada y/o censurada”, afirmó Varela.
Privacidad y Confidencialidad en Entredicho
Existen dudas sobre cómo DeepSeek maneja la confidencialidad de la información y la privacidad de los datos compartidos. Aunque su política menciona reglas estrictas para manejar datos anónimos y no almacenar conversaciones en sus servidores, su naturaleza “inmadura” genera cuestionamientos sobre su uso en escenarios empresariales o de investigación.
Transparencia Limitada y Riesgos Geopolíticos
Alexandre Zilliox y Karen Kharmandarian, especialistas en gestión de portafolio, coincidieron en que la transparencia de DeepSeek sigue siendo limitada. Esto se debe en parte al contexto geopolítico en el que se desarrolla la tecnología china, lo que aumenta los riesgos asociados al uso de sus datos.
“La transparencia sobre las operaciones de la compañía sigue siendo limitada”, apuntaron los expertos en un análisis reciente.
En resumen, DeepSeek enfrenta desafíos significativos en términos de sesgos, transparencia y privacidad, lo que plantea dudas sobre su fiabilidad y aplicabilidad en entornos críticos.

-
Matamoroshace 11 horas
“Aquí estamos, no nos escondemos”: Amigos de Josehp acuden a Playa Bagdad para sumarse a la búsqueda
-
Policíacahace 1 día
Tragedia en Playa Bagdad: Joven de 19 años desaparece en el mar
-
Matamoroshace 3 horas
Falsa alarma moviliza a familia de Joseph
-
Matamoroshace 1 día
Encuentran tortuga laúd sin vida enredada en redes al norte de Playa Bagdad
-
Nacionalhace 2 días
Devuelven casa en Chalco a hija de Carlota ‘N’, acusada de doble homicidio
-
Policíacahace 1 día
Auto cae a canal durante mantenimiento
-
Internacionalhace 13 horas
Cae estructura de metal en AXE Ceremonia 2025; confirman dos muertos
-
Policíacahace 1 día
Hombre resulta lesionado al ser atropellado por vehículo que salía de un Oxxo
Debes iniciar sesión para publicar un comentario Iniciar Sesión