Datos en IA: por qué si entra basura, realmente sale basura
La IA es tan buena como los datos de los que aprende. He aquí por qué la calidad de los datos importa más que la sofisticación del algoritmo, y cómo detectar la diferencia.
El libro de recetas que tu madre nunca terminó
Imagina la cocina de tu madre en 1990. Es famosa en el barrio por su tarta de manzana. Todo el mundo quiere la receta. Así que decide escribirla.
Pero aquí está el problema. Durante cuarenta años de repostería, ha hecho esa tarta cientos de veces. A veces usaba mantequilla, a veces margarina (dependiendo de lo que estuviera más barato esa semana). A veces esta manzana, a veces aquella, a veces normal. A veces horneaba a 150 grados, a veces a 250 (porque el horno era temperamental). A veces añadía un huevo extra cuando eran pequeños.
La flexibilidad de la experiencia
Cada tarta salía deliciosa. Sabía instintivamente cómo ajustarse. Un poco más de harina cuando hay humedad. Un poco menos de azúcar cuando la manzana es especialmente ácida. Años de experiencia la hicieron flexible.
Ahora imagina que escribe la receta basándose solo en las últimas cinco veces que la hizo. Todas en verano. Todas con margarina. Todas con ese lote de manzanas extra ácidas que compró en oferta. Todas con el horno funcionando a alta temperatura.
El desastre de los ejemplos limitados
Alguien sigue esa receta en invierno, con mantequilla, con manzanas dulces, en un horno normal. Un desastre. Seca, quebradiza, demasiado dulce. La receta no funciona porque los ejemplos en los que se basó no representaban toda la gama de situaciones.
Así es exactamente como la IA aprende de los datos. La "receta" (la IA) es tan buena como los ejemplos de los que aprendió. Ejemplos limitados crean una IA limitada. Ejemplos sesgados crean una IA sesgada. Ejemplos incorrectos crean una IA que simplemente no funciona.
No se trata de tecnología complicada. Se trata de una verdad simple: solo puedes enseñar lo que muestras. Y si lo que muestras está incompleto, sesgado o simplemente es incorrecto, eso es exactamente lo que se aprende.
¿Por qué nadie habla de la parte aburrida (pero debería)?
Esto es lo que sucede en cada conferencia de IA, en cada artículo de tecnología, en cada presentación de marketing:
Lo que acapara toda la atención
Mucha emoción por los algoritmos. Las matemáticas ingeniosas. Las arquitecturas sofisticadas. Redes neuronales con miles de millones de parámetros. Técnicas de entrenamiento con nombres impresionantes. Estrategias de optimización que suenan a magia.
Lo que se ignora
Casi nada sobre los datos. De dónde vinieron. Cómo se recopilaron. Si son buenos. Qué falta. Qué sesgos contienen.
¿Por qué? Porque los algoritmos son atractivos. Los datos son aburridos. Los algoritmos suenan inteligentes y sofisticados. Los datos suenan como... papeleo. Archivadores. Hojas de cálculo. Nada emocionante.
Pero aquí está la verdad incómoda que todo investigador de IA honesto te dirá en privado:
La verdad incómoda
Un algoritmo brillante entrenado con datos basura produce resultados basura. Un algoritmo mediocre entrenado con datos excelentes produce resultados excelentes. Siempre. Sin excepciones.
Piénsalo como estudiar para un examen
El algoritmo es como un estudiante que estudia para un examen. Dale a ese estudiante el libro de texto equivocado, y no importa lo inteligente que sea o lo mucho que estudie. Suspenderá el examen porque aprendió de información incorrecta. Dale a un estudiante promedio el libro de texto correcto, muchos problemas de práctica y buenos ejemplos. Le irá bien. Quizás no perfecto, pero sólidamente útil.
Esa es la realidad de la IA. La calidad de los datos importa más que la sofisticación del algoritmo. Mucho más. Y, sin embargo, casi nadie quiere hablar de ello.
Imagina enseñar a alguien a identificar setas venenosas usando solo fotografías de un bosque, tomadas en verano, todas con luz solar brillante. Podría hacerlo genial en ese bosque exacto, en verano, en días soleados. Pero ponlo en un bosque diferente en otoño en un día nublado. Estará adivinando. El entrenamiento fue demasiado limitado. El mismo problema con la IA: los datos limitados crean sistemas limitados y poco fiables. Los datos definen los límites de lo que la IA puede llegar a aprender.
¿Qué significa realmente "aprender de los datos"?
Cuando alguien dice "la IA aprende de los datos", ¿qué significa eso realmente? Usemos un ejemplo que todos puedan entender.
Enseñar a tu nieto a reconocer pájaros
Imagina que le estás enseñando a tu nieto de diez años a reconocer diferentes tipos de pájaros. Lo llevas al parque con una guía de aves. Cada vez que veis un pájaro, lo buscáis juntos.
"¿Ves ese? Plumas azules, pecho rojo, de este tamaño. Es un azulejo". Él lo mira con atención. Asimila los colores, el tamaño, la forma. La semana siguiente, otro pájaro. "¿Ese? Todo negro, más grande, con un graznido fuerte. Es un cuervo". Él observa. Recuerda.
Haces esto cincuenta veces. Pájaros diferentes. Situaciones diferentes. Iluminación diferente. A veces volando, a veces posados. Después de cincuenta pájaros, empieza a adivinar correctamente. "Abuelo, ¿eso es un petirrojo?". ¡Y acierta!
Aprendió de ejemplos. Muchos ejemplos. Cada uno le enseñó algo sobre los patrones: qué hace que un petirrojo sea un petirrojo, qué hace que un cuervo sea un cuervo.
La IA aprende exactamente de la misma manera
Muéstrale ejemplos. Muchos. Para cada ejemplo, dile la respuesta correcta. "Este correo es spam". "Esta foto contiene un gato". "Esta reseña es positiva". La IA busca patrones que conectan los ejemplos con las respuestas.
Pero aquí es donde se complica. ¿Qué pasa si solo le muestras a tu nieto pájaros en verano? Podría pensar que los petirrojos siempre tienen el pecho rojo brillante (es más apagado en invierno). ¿Qué pasa si solo le muestras pájaros en tu patio trasero? Podría no reconocer esos mismos pájaros en un entorno diferente.
Aprender patrones incorrectos
¿Y si accidentalmente identificas mal algunos pájaros? "Eso es un gorrión" cuando en realidad es un pinzón. Aprende el patrón incorrecto. Ahora identificará mal a los pinzones para siempre, a menos que alguien lo corrija.
La calidad y variedad de los ejemplos determina lo que aprende. Lo mismo ocurre con la IA. Los datos son la lección. Si la lección está incompleta, sesgada o es incorrecta, el aprendizaje será incompleto, sesgado o incorrecto.
¿Cuántos datos se necesitan realmente?
Todo el mundo hace esta pregunta. La respuesta frustra a la gente: depende.
Piensa en enseñar habilidades en la vida real. ¿Cuántas veces necesita practicar alguien antes de aprender?
Enseñar a un niño a atarse los zapatos
Quizás veinte sesiones de práctica. Es un patrón simple y repetible. Los mismos pasos cada vez. No hay mucha variación. Veinte ejemplos son suficientes.
Enseñar a alguien a conducir
Cientos de horas. ¿Por qué? Porque conducir implica una variación infinita. Calles de ciudad, autopistas, lluvia, nieve, obras, conductores agresivos, peatones, ciclistas, animales cruzando. Cada situación es ligeramente diferente. Necesitas exposición a todas esas variaciones para convertirte en un conductor competente.
La IA es igual. Las tareas simples necesitan menos ejemplos. Las tareas complejas necesitan cantidades masivas.
Reconocimiento de patrones simples (¿esto es spam?)
Quizás 10.000 ejemplos. El spam tiene patrones reconocibles. Una vez que has visto suficientes ejemplos de "¡¡¡COMPRA AHORA!!!" y "¡Has ganado un premio!", te haces una idea.
Complejidad moderada (reconocer caras)
Decenas de miles a cientos de miles. Las caras varían enormemente. Diferentes ángulos, iluminación, expresiones, edades. Necesitas mucha variedad para capturar todo eso.
Alta complejidad (identificar cualquier objeto en fotos)
Millones de imágenes. Miles de tipos de objetos. Cada objeto en diferentes contextos, ángulos, iluminación. Coches en la calle, coches en concesionarios, coches en accidentes. Árboles en bosques, árboles en patios, árboles en pinturas. Una variedad masiva requiere datos masivos.
Complejidad extrema (entender el lenguaje)
Miles de millones de palabras. El lenguaje tiene una variedad infinita. Cada tema, cada estilo, cada contexto. Informes formales, chat casual, poesía, instrucciones, chistes, sarcasmo. Para manejar todo eso, necesitas exposición a enormes cantidades de texto.
Pero aquí está el punto crítico: la cantidad por sí sola no es suficiente. Preferirías tener 100.000 ejemplos excelentes, diversos y correctamente etiquetados que 10 millones de ejemplos mediocres, repetitivos y mal etiquetados. Es como aprender a cocinar. ¿Preferirías practicar haciendo 100 platos diferentes con buenas instrucciones, o hacer la misma pasta mediocre 10.000 veces con instrucciones poco claras? La variedad y la calidad de la práctica importan más que el número bruto de repeticiones.
Los cinco ingredientes de los datos de calidad
¿Qué hace que los datos sean buenos o malos? Cinco factores clave. Analicémoslos con ejemplos que cualquiera puede entender.
-
1
Etiquetas precisas (dar con las respuestas correctas)
Imagina enseñar a un niño sobre animales usando un libro de imágenes mal etiquetado. "Esto es un perro" junto a una foto de un gato. "Esto es una vaca" junto a un caballo. El niño aprende todo mal. Identificará mal a los animales para siempre.
La IA tiene el mismo problema. Si la estás entrenando para reconocer gatos, cada foto etiquetada como "gato" debe ser realmente un gato. Incluso un 5% de errores causa problemas serios. ¿Un 10% de errores? La IA aprende basura. No puede distinguir la señal del ruido cuando las respuestas no son fiables.
-
2
Representatividad (coincidir con la vida real)
Tu nieto aprendió a identificar pájaros en el patio de tu casa suburbana. Es genial reconociendo cardenales, petirrojos, arrendajos azules. Luego lo llevas a la playa. Gaviotas, pelícanos, correlimos. Está perdido. Nada se parece a los pájaros que aprendió.
Los datos de entrenamiento deben representar dónde se usará realmente la IA. ¿Entrenas un sistema de reconocimiento facial con fotos de estudio bien iluminadas? Falla con la luz tenue de una discoteca. ¿Entrenas un asistente de voz con un habla clara y sin ruido? Tiene dificultades con los acentos y el ruido de fondo. La distribución de los datos debe coincidir con la distribución del mundo real.
-
3
Diversidad suficiente (cubrir todas las situaciones)
Imagina aprender a conducir, but solo con clima perfecto en carreteras rectas y con poco tráfico. Serías un conductor terrible en cualquier otro lugar. ¿Curvas? Pánico. ¿Lluvia? Desastre. ¿Hora punta? Abrumado.
La IA necesita diversidad en los datos de entrenamiento. Fotos con sol brillante y en sombra tenue. Escritura formal y texto casual. Voces jóvenes y voces mayores. Casos comunes y casos extremos raros. Sin diversidad, la IA se sobreajusta. Memoriza ejemplos específicos en lugar de aprender patrones generales. Muéstrale solo golden retrievers y tendrá problemas con los caniches. Muéstrale gatos de todos los colores, tamaños y posiciones, y reconocerá a los gatos de forma fiable.
-
4
Relevancia y actualidad (mantenerse al día)
Imagina enseñar a alguien la moda de los años 60 y esperar que identifique las tendencias actuales. Pantalones de campana, peinados de colmena, botas go-go. Luego muéstrale la moda moderna. Está confundido. Todo cambió.
Los datos envejecen. El lenguaje evoluciona ("cool" significa algo diferente ahora que en 1960). Las tácticas de spam cambian (los trucos de ayer dejan de funcionar). Las tendencias de la moda cambian. La tecnología se actualiza. Si tus datos de entrenamiento son de hace cinco años, los patrones han cambiado. Los datos actuales capturan los patrones actuales.
-
5
Libre de sesgos (representación justa)
Este es el más importante. El peligroso. El que causa un daño real en el mundo real. Profundizaremos mucho más en esto en breve, porque el sesgo en los datos no es solo un problema técnico. Es un problema humano con graves consecuencias. Si tus datos reflejan una discriminación histórica, tu IA aprende a discriminar. Si tus datos sobrerrepresentan a algunos grupos y subrepresentan a otros, tu IA funciona mejor para unas personas que para otras. Si entra basura, sale basura. Si entra sesgo, sale sesgo.
Piensa en los datos como los ingredientes para cocinar. Puedes tener un chef con estrella Michelin (un algoritmo sofisticado), pero si le das verduras podridas, pan duro y leche en mal estado (datos malos), la comida será incomible. Mientras tanto, un cocinero casero (un algoritmo simple) con ingredientes frescos y de calidad hará algo delicioso. Los ingredientes importan más que las credenciales del chef. En la IA, los datos son los ingredientes.
La realidad poco glamurosa (donde está el verdadero trabajo)
Esto es lo que nadie te dice cuando vende soluciones de IA o imparte cursos de IA:
La mayor parte del trabajo no es construir la IA. Es preparar los datos.
Los científicos de datos dedican aproximadamente el 80% de su tiempo a la preparación de datos. Solo el 20% a construir y entrenar modelos. Esa proporción te dice todo sobre dónde reside el verdadero desafío.
¿Qué implica la preparación de datos? Cuatro trabajos masivos, tediosos y críticos:
Recopilación de datos
Reunir ejemplos relevantes de dondequiera que existan. Extraer datos de sitios web, acceder a bases de datos, registrar sensores, agregar múltiples fuentes. Consume mucho tiempo. A menudo es caro. Frecuentemente frustrante cuando las fuentes no cooperan o los datos no existen.
Limpieza de datos
Eliminar duplicados. Corregir errores. Manejar valores faltantes. Estandarizar formatos. Filtrar ruido. Como clasificar décadas de papeleo en un archivador desordenado. Solo esto puede llevar semanas o meses para grandes conjuntos de datos.
Etiquetado de datos
Etiquetar manualmente ejemplos con las respuestas correctas. "Esta imagen es un gato". "Esta reseña es positiva". "Esta transacción es fraudulenta". Para millones de ejemplos. Increíblemente tedioso. A menudo se subcontrata a trabajadores mal pagados que cometen errores por aburrimiento y fatiga.
Validación de datos
Verificar que las etiquetas sean correctas. Que la diversidad sea suficiente. Que los sesgos se identifiquen y aborden. Que el conjunto de datos represente verdaderamente la realidad. Control de calidad para millones de ejemplos. Agotador pero absolutamente crítico.
Nada de esto es glamuroso. Nada de esto aparece en los titulares. Nada de esto impresiona a la gente en las fiestas. Es trabajo pesado. Pero es donde los proyectos de IA tienen éxito o fracasan.
El algoritmo es relativamente fácil. Existen muchos buenos algoritmos. La mayoría se publican abiertamente. Puedes descargarlos, usarlos, modificarlos. Los datos son difíciles. Recopilarlos, limpiarlos, etiquetarlos, validarlos. Ahí es donde va el verdadero esfuerzo. Ahí es donde la mayoría de los proyectos se atascan. Eso es lo que separa la IA que funciona del vaporware. Las empresas con mejores datos vencen a las empresas con mejores algoritmos. Siempre. Los datos son el foso. La ventaja defendible. La verdadera ventaja competitiva.
El problema del sesgo (el defecto más peligroso de la IA)
Ahora llegamos a la parte realmente incómoda. La parte que causa un daño real a personas reales. La parte que convierte a la IA de "ligeramente poco fiable" a "activamente peligrosa".
La IA no solo aprende patrones de los datos. Los amplifica.
Si tus datos tienen sesgos (y casi todos los datos del mundo real los tienen), la IA no los filtra. Los aprende. Los codifica. Los aplica sistemáticamente. Los empeora.
Déjame explicarlo con una historia que todos puedan entender.
Aprender de datos históricos sesgados
Imagina que le estás enseñando a tu nieto sobre quién es contratado en tu empresa. Le muestras los archivos de los últimos veinte años de contrataciones. Departamento de ingeniería: en su mayoría hombres. Puestos de secretaría: en su mayoría mujeres. Gerencia: en su mayoría blancos. Mano de obra: más diversa.
Nunca le dices explícitamente "los hombres deben ser ingenieros" o "las mujeres deben ser secretarias". Solo le muestras los datos históricos.
Ahora él está a cargo de seleccionar nuevas solicitudes. ¿Qué hace? Aprendió el patrón de los datos. ¿Una mujer solicita un puesto de ingeniería? Parece inusual, podría no encajar bien. ¿Un hombre solicitando ser secretario? No coincide con el patrón. Está discriminando. No porque sea una mala persona. Porque aprendió de datos históricos sesgados y aplicó esos patrones como si fueran correctos.
Eso es exactamente lo que sucede con la IA. Los datos históricos reflejan la discriminación histórica. La IA aprende esa discriminación como si fuera un patrón válido a seguir. Luego la aplica sistemáticamente a millones de decisiones.
Ejemplos reales de que esto ha sucedido:
⚠️ La IA de contratación de Amazon
Amazon entrenó una IA para seleccionar currículums utilizando diez años de datos históricos de contratación. Los datos mostraban que habían contratado principalmente a hombres para puestos técnicos. La IA aprendió a degradar los currículums de las mujeres. Detectaba pistas como "club de ajedrez femenino" en los currículums y los penalizaba. Amazon tuvo que desechar el sistema. El algoritmo funcionó perfectamente. El problema eran los datos.
⚠️ Algoritmos de atención médica
Múltiples sistemas de IA para la atención médica mostraron sesgo racial. Priorizaban a los pacientes blancos sobre los pacientes negros con síntomas idénticos. ¿Por qué? Los datos históricos de atención médica reflejaban las disparidades históricas en el cuidado. Históricamente, los pacientes negros recibían menos tratamiento. La IA aprendió este patrón y lo aplicó como si menos cuidado fuera médicamente apropiado, no como evidencia de discriminación.
⚠️ Sistemas de reconocimiento facial
La mayoría de los conjuntos de datos de reconocimiento facial sobrerrepresentan a los hombres blancos. La IA funciona mejor con hombres blancos. Significativamente peor con mujeres. Aún peor con personas de piel más oscura. No porque el algoritmo sea racista, sino porque los datos de entrenamiento no estaban equilibrados. La IA, literalmente, no vio suficientes caras diversas para aprender a reconocerlas de manera fiable.
⚠️ Modelos de calificación crediticia
La calificación crediticia por IA aprendió de datos históricos de préstamos que reflejaban décadas de prácticas crediticias discriminatorias. Líneas rojas (redlining). Préstamos predatorios en barrios de minorías. La IA codificó estos patrones como "buenas decisiones de préstamo" y los perpetuó. Discriminación legal, automatizada y a escala.
En cada uno de los casos, el algoritmo funcionó correctamente. Aprendió los patrones en los datos. Los datos estaban sesgados. Así que la IA se volvió sesgada. Si entra basura, sale basura. Si entra discriminación, sale discriminación.
Este no es un problema técnico menor. Es un desafío fundamental. No se puede construir una IA justa a partir de datos injustos. Mejores algoritmos no ayudan. Solo mejores datos ayudan. Más diversos. Más representativos. Deliberadamente desprovistos de sesgo.
¿La parte más aterradora? La IA sesgada parece objetiva. "Lo dijo el ordenador" se siente más legítimo que "una persona decidió". Pero el ordenador aprendió de humanos sesgados que tomaban decisiones sesgadas. Todo lo que hace la IA es automatizar y escalar ese sesgo, haciéndolo parecer científico y neutral cuando no es ninguna de las dos cosas. El sesgo en los datos es donde la IA pasa de ser una herramienta útil a un instrumento de daño.
¿Qué preguntas hacer sobre cualquier sistema de IA?
Ya sea que estés construyendo IA, comprando IA o simplemente usando IA en tu vida diaria, aquí están las preguntas que deberías hacer. Las respuestas te dirán si puedes confiar en ella.
-
?
¿De dónde provinieron los datos de entrenamiento?
Las fuentes específicas importan. ¿Datos públicos de internet? ¿Conjuntos de datos curados? ¿Registros de la empresa? Cada uno tiene diferentes sesgos y limitaciones. Si no te lo dicen, es una señal de alerta masiva.
-
?
¿Cuántos datos se usaron? ¿Cómo se etiquetaron?
Los números importan. "Miles" frente a "millones" marca la diferencia. ¿Quién los etiquetó? ¿Expertos o trabajadores aleatorios mal pagados? ¿Cómo se controló la calidad? Estos detalles determinan la fiabilidad.
-
?
¿Los datos de entrenamiento coinciden con tu caso de uso?
Una IA entrenada con documentos comerciales formales tendrá dificultades con mensajes de texto casuales. Una entrenada con fotos soleadas de California podría fallar en la lluviosa Seattle. La coincidencia importa. La falta de coincidencia significa fallos.
-
?
¿Qué grupos están representados en los datos?
¿Todas las edades? ¿Todos los géneros? ¿Todas las etnias? ¿Todos los idiomas? ¿O principalmente un grupo demográfico? Los datos desequilibrados crean sistemas que funcionan muy bien para algunas personas y terriblemente para otras.
-
?
¿Qué sesgos conocidos existen? ¿Cómo se abordaron?
Todo conjunto de datos tiene sesgos. Los desarrolladores honestos los reconocen y explican los esfuerzos de mitigación. Cualquiera que afirme no tener sesgos o está mintiendo o es peligrosamente inconsciente.
-
?
¿Qué situaciones manejará mal esta IA?
Toda IA tiene límites basados en sus datos de entrenamiento. ¿Qué no vio? ¿Qué no puede manejar? Si no pueden responder a esto, no entienden su propio sistema lo suficientemente bien como para implementarlo de forma segura.
Si alguien que te vende IA no puede responder a estas preguntas, vete. O no lo saben (incompetentes) o no te lo dirán (ocultan problemas). De cualquier manera, no confíes en ello.
El futuro de los datos en la IA
Los desafíos de los datos no van a desaparecer. Pero los enfoques están evolucionando. Esto es lo que está cambiando:
Datos sintéticos
Crear ejemplos de entrenamiento artificiales mediante simulación. Útil para escenarios raros, situaciones peligrosas (como accidentes de coche para coches autónomos) y dominios sensibles a la privacidad. No es un reemplazo de los datos reales, sino un valioso suplemento que llena vacíos.
Aumento de datos
Crear variaciones de ejemplos existentes. Rotar imágenes, voltearlas, ajustar la iluminación. Reformular frases. Añadir ruido de fondo al audio. Multiplica tu conjunto de datos artificialmente, aumentando la diversidad sin recopilar nuevos ejemplos desde cero.
Aprendizaje con pocos ejemplos (Few-Shot Learning)
Técnicas para aprender de menos ejemplos transfiriendo conocimiento de tareas anteriores. Como cuando, una vez que has aprendido varios idiomas, aprender uno nuevo se vuelve más fácil. Reduce los requisitos de datos para nuevas tareas aprovechando el conocimiento existente.
Métodos que preservan la privacidad
Aprender de los datos sin verlos directamente. Aprendizaje federado (la IA entrena en tu teléfono sin enviar datos a los servidores). Privacidad diferencial (añadir ruido cuidadosamente para que los registros individuales no puedan ser identificados). Permite aprender de datos sensibles médicos, financieros y personales.
Aprendizaje activo
La IA solicita etiquetas solo para los ejemplos sobre los que no está segura. En lugar de etiquetar un millón de ejemplos al azar, etiqueta los mil ejemplos en los que la IA está más confundida. Enfoca el esfuerzo humano donde más importa, reduciendo drásticamente los costos de etiquetado.
Estas técnicas ayudan, pero no eliminan la verdad fundamental: los datos de calidad son insustituibles. Puedes reducir la cantidad que necesitas. Puedes generar suplementos. Puedes aprender de manera más eficiente. Pero no puedes escapar de la ecuación de si entra basura, sale basura.
La conclusión (lo que realmente necesitas saber)
Llevemos esto a casa con las verdades esenciales sobre los datos en la IA:
Los datos importan más que los algoritmos. Siempre ha sido así. Siempre lo será. La IA más sofisticada y elegante del mundo, entrenada con datos basura, produce resultados basura. Una IA simple entrenada con datos de calidad produce resultados de calidad. Siempre. Sin excepciones.
La calidad supera a la cantidad, pero necesitas ambas. Es mejor tener 100.000 ejemplos diversos, correctamente etiquetados y representativos que 10 millones de ejemplos repetitivos, mal etiquetados y sesgados. Pero, ¿idealmente? Quieres millones de ejemplos de alta calidad y diversos. Tanto cantidad como calidad.
El sesgo en los datos se convierte en sesgo en la IA. La discriminación histórica se convierte en discriminación algorítmica. La representación desequilibrada se convierte en un rendimiento poco fiable para los grupos subrepresentados. La IA no filtra el sesgo. Lo aprende, lo codifica, lo amplifica y lo aplica sistemáticamente.
La mayor parte del trabajo de IA es la preparación de datos, no la construcción de algoritmos. 80% de recopilación, limpieza, etiquetado y validación de datos. 20% de modelado. Esa proporción lo dice todo. El algoritmo es la parte fácil. Los datos son la parte difícil. Y la parte importante.
Toda IA tiene límites definidos por sus datos de entrenamiento. Lo que no vio, no lo puede manejar. Donde los datos estaban sesgados, será sesgada. Donde los datos estaban incompletos, fallará. Ninguna IA trasciende sus datos de entrenamiento. Los datos definen el techo.
Recuerda el libro de recetas de tu madre del principio de este artículo. La receta es tan buena como las experiencias en las que se basó. Las experiencias limitadas crean recetas limitadas. Las experiencias sesgadas crean recetas sesgadas. La información incorrecta crea recetas que no funcionan.
Lo mismo con la IA. El sistema es tan bueno como los datos de los que aprendió. Los datos limitados crean una IA limitada. Los datos sesgados crean una IA sesgada. Los datos malos crean una IA que simplemente no funciona. Si entra basura, sale basura no es solo un dicho pegadizo. Es la ley fundamental de la IA. Si aciertas con los datos, incluso los algoritmos simples pueden aprender patrones útiles. Si te equivocas con los datos, ninguna sofisticación algorítmica puede salvarte.
Ahora ya sabes por qué los datos lo son todo en la IA. Y por qué cualquiera que te diga lo contrario o está vendiendo algo o no entiende cómo funciona realmente esta tecnología.
En Dweve, somos transparentes sobre los requisitos de datos. Nuestros sistemas basados en restricciones necesitan ejemplos de calidad y representativos para descubrir relaciones lógicas válidas. Sin atajos. Sin magia. Solo ingeniería honesta que reconoce una verdad simple: no se puede construir una IA fiable a partir de datos no fiables. Porque si entra basura, realmente sale basura, siempre.
Etiquetas
Sobre el autor
Marc Filipan
Director de Tecnología y Cofundador
Construyendo el futuro de la IA con redes binarias y razonamiento basado en restricciones. Comprometidos con una IA eficiente y accesible.