Cómo escribir un kernel de GPU

Un kernel es la función pequeña que ejecuta cada hilo de una GPU, cada uno sobre su propio elemento. Escribir un kernel es escribir el trabajo de un solo hilo y dejar que el lanzamiento lo repita miles de veces.

Una tienda quiere rebajar un 10 % todos sus precios. El kernel rebaja un precio, y la rejilla se encarga del resto. Aquí no hay GPU: el lanzamiento se simula en Python.

El kernel no tiene un bucle sobre todos los datos. Cuenta lo que hace un hilo: calcula su índice global, lee su elemento y escribe su resultado.

Si hay 5 elementos, habrá 5 hilos útiles ejecutando ese mismo kernel. El bucle lo pone la rejilla, no el programador.

Primero, calcular el índice global con bloque, tamaño y hilo. Segundo, comprobar que el índice cae dentro de los datos: es la guarda, y protege a los hilos ociosos. Tercero, leer de la entrada y escribir en la salida, solo en la posición propia.

Si un hilo escribe en la posición de otro, los resultados dependen del orden y dejan de ser fiables.

# Precios en céntimos. Un kernel que aplica un 10 % de descuento a UN elemento.
precios = [1200, 3000, 800, 2500, 990]
rebajados = [0] * len(precios)
tam_bloque = 2


def kernel_descuento(bloque, hilo):
    i = bloque * tam_bloque + hilo
    if i < len(precios):
        rebajados[i] = precios[i] * 90 // 100


bloques = (len(precios) + tam_bloque - 1) // tam_bloque
for bloque in range(bloques):
    for hilo in range(tam_bloque):
        kernel_descuento(bloque, hilo)
print("Rebajados:", rebajados)
# Cambia el 90 por 80 y vuelve a ejecutar.

En una GPU real, los hilos corren a la vez y ninguno espera a otro. No se sabe qué hilo acaba primero.

Por eso un buen kernel no necesita lo que escribió otro hilo. Si el resultado cambia al ejecutar los hilos en otro orden, el kernel está mal escrito. La simulación permite comprobarlo.

# El mismo lanzamiento, pero con los bloques en orden inverso.
precios = [1200, 3000, 800, 2500, 990]
rebajados = [0] * len(precios)
tam_bloque = 2


def kernel_descuento(bloque, hilo):
    i = bloque * tam_bloque + hilo
    if i < len(precios):
        rebajados[i] = precios[i] * 90 // 100


bloques = (len(precios) + tam_bloque - 1) // tam_bloque
for bloque in range(bloques - 1, -1, -1):
    for hilo in range(tam_bloque):
        kernel_descuento(bloque, hilo)
print("Rebajados:", rebajados)
# Sale lo mismo: ningún hilo necesita lo que hizo otro.

El laboratorio trae steps/kernel.py, una simulación de un lanzamiento. Con el primer comando verás su texto: el kernel, la guarda y los dos bucles que simulan la rejilla.

Es un script en inglés, con los nombres en inglés. Solo se lee: lo que hace con sus datos lo viste en la lección anterior.

docker exec jupyter cat steps/kernel.py

docker exec jupyter python3 -c "print(list(range(2, -1, -1)))"