¿Puedes fiarte de lo que escribe una IA?
Un modelo de lenguaje es un programa que escribe texto prediciendo qué palabra viene después. Puede resumir, traducir y explicar, y también puede inventarse un dato con total seguridad.
Hoy verás cómo funciona uno en pequeño. Así sabrás cuándo fiarte de una IA y cuándo comprobar lo que dice.
Al terminar esta lección
Nota
Puedo valorar lo que hace bien y lo que hace mal una inteligencia artificial.
Palabras clave
| Palabra | Qué significa |
|---|---|
| Modelo de lenguaje | un programa que escribe texto prediciendo la palabra siguiente |
| Datos de entrenamiento | los textos o ejemplos de los que aprendió el modelo |
| Respuesta inventada | una respuesta falsa que suena segura |
| Decisión automática | una decisión que toma un programa, sin que una persona la mire |
| Equidad | tratar de forma justa a todos los grupos de personas |
Las celdas que rellenan los estudiantes quedan en blanco en esta vista previa.
Un modelo de lenguaje predice la palabra siguiente
Un modelo de lenguaje lee una enorme cantidad de texto y cuenta qué palabras suelen venir detrás de otras. Para escribir, elige una palabra probable, después otra, y así sigue.
Los modelos reales son enormes y miran muchas palabras a la vez. Pero la idea es la de contar y elegir. No consultan una lista de verdades.
Antes de empezar
Nota
Pulsa Iniciar el laboratorio en la barra de la lección y espera a que esté en marcha. El terminal no tiene Python propio. Cada botón Ejecutar escribe docker exec jupyter, que lanza una orden dentro del contenedor del laboratorio.
Un modelo de lenguaje en miniatura
El script de abajo usa un texto muy corto sobre una tienda de bicis. Cuenta qué palabra sigue a cada otra, y muestra qué viene después de «the».
El texto está en inglés: «the» es «el» o «la», «shop» es «tienda», «desk» es «mostrador» y «hires» es «alquila».
Cuenta qué sigue a «the»
docker exec jupyter python3 steps/bigram.pySe muestra aquí y no se ejecuta. Crea una cuenta gratuita para pulsar Ejecutar y escribirlo en el terminal de tu propio laboratorio.
Ejemplo resuelto: qué viene tras «the»
| Palabra siguiente | Veces | Parte del total |
|---|---|---|
| shop (tienda) | 3 | 0,33 |
| desk (mostrador) | 2 | 0,22 |
| hour (hora) | 1 | 0,11 |
| bikes (bicis) | 1 | 0,11 |
| customer (cliente) | 1 | 0,11 |
| door (puerta) | 1 | 0,11 |
Las celdas que rellenan los estudiantes quedan en blanco en esta vista previa.
Escribe cuatro frases con los recuentos
docker exec jupyter python3 steps/generate.pySe muestra aquí y no se ejecuta. Crea una cuenta gratuita para pulsar Ejecutar y escribirlo en el terminal de tu propio laboratorio.
Ejemplo resuelto: las cuatro frases impresas
| Frase que imprime | ¿Tiene sentido? |
|---|---|
| the shop opens at the hour . | Casi: suena rara |
| the customer hires bikes by the desk is by the shop opens | No: mezcla dos frases |
| the desk is by the desk . | Gramática correcta, pero no dice nada |
| the shop opens at nine . | Sí, y es verdad |
Las celdas que rellenan los estudiantes quedan en blanco en esta vista previa.
Suena bien sin entender nada
El modelo no sabe qué es una tienda. Solo sabe qué palabras suelen seguir a cuáles. Por eso a veces escribe algo falso con aspecto de frase correcta.
Un modelo real tiene muchísimos más datos y por eso falla menos. Pero el mecanismo es parecido y puede fallar de la misma manera.
Lo que hace bien y mal una IA
Una IA que escribe texto es muy buena con tareas de lenguaje donde un fallo se nota rápido y se corrige fácil. Es mala cuando la respuesta tiene que ser un dato exacto o cuando nadie la va a revisar.
La tabla de abajo lo ordena.
Ejemplo resuelto: tareas, de mejor a peor
| Tarea | Resultado | Por qué |
|---|---|---|
| Resumir un texto que le das | Bien | Tiene el texto delante |
| Traducir una frase corriente | Bien | Hay muchísimos ejemplos |
| Dar ideas para empezar un trabajo | Bien | Tú eliges y compruebas |
| Decir una fecha o una cita exacta | Mal | Puede inventarla |
| Hablar de algo de esta semana | Mal | Solo sabe lo que leyó antes |
| Decidir sola algo importante | Mal | Nadie la corrige |
Las celdas que rellenan los estudiantes quedan en blanco en esta vista previa.
Un error frecuente
Advertencia
Mucha gente cree que si una respuesta suena segura, es verdad. No es así. Un modelo escribe igual de seguro lo cierto que lo inventado. Comprueba con otra fuente cualquier dato, nombre, fecha o cita que importe.
Las decisiones automáticas tienen que ser justas
Una empresa puede usar un modelo para elegir a quién da un préstamo o un empleo. Si los ejemplos con que aprendió son injustos, sus decisiones también lo serán, y a gran escala.
La ley de protección de datos protege tus datos personales. En muchos países, si una máquina decide algo importante sobre ti, puedes pedir saberlo y que una persona lo revise.
Cuatro preguntas antes de usar una IA
| Pregunta | Por qué importa |
|---|---|
| ¿De qué datos aprendió? | Si faltan grupos, trata mal a esos grupos |
| ¿Quién comprueba lo que dice? | Sin revisión, un error se repite |
| ¿Qué datos personales le doy? | Pueden guardarse o usarse sin tu permiso |
| ¿Qué pasa si se equivoca? | Más daño exige más control |
Las celdas que rellenan los estudiantes quedan en blanco en esta vista previa.
Para ir más lejos: tus reglas de uso
Escribe cuatro reglas para usar una IA en tus trabajos. Una debe decir qué compruebas siempre. Otra, qué datos no pegas nunca.
Compáralas con las de un compañero. Quédate con las que repetís.