Ejecutar una IA en sus propios servidores: lo que funciona de verdad

La pregunta real no es técnica

Cuando un directivo pregunta «¿podemos ejecutar la IA en casa?», no plantea una cuestión de infraestructura. Pregunta: ¿mis datos van a irse a otra parte y voy a enterarme?

La respuesta técnica es simple. La respuesta honesta exige separar tres cosas que se confunden siempre.

Qué abarca «ejecutar una IA»

Leer y clasificar. Ordenar correo, reconocer un tipo de documento, extraer un importe o una fecha, resumir una página. Es la inmensa mayoría del uso real en empresa, y es la parte menos exigente. Modelos pequeños, instalados en una máquina corriente, hacen bien ese trabajo.

Razonar sobre un caso complejo. Analizar una situación contractual, comparar escenarios, redactar un texto que debe convencer. Ahí los modelos grandes mantienen ventaja clara y funcionan mal en hardware de empresa estándar.

Escribir código. Caso particular, muy exigente, hoy casi siempre resuelto con modelos remotos.

Confundir estos tres usos es el error más común. Lleva o a sobredimensionar una máquina para clasificar correo, o a enviar a la nube documentos que no tenían por qué salir.

La arquitectura que funciona

Primero clasificar, después escalar.

Todo lo que entra pasa por un modelo local. Trata lo que sabe tratar — y sabe bastante. Lo que no sabe tratar, o le genera duda, lo señala. Solo entonces, y solo para esos casos, la petición puede ir a un servicio externo.

Ese punto de escalado es donde se juega la soberanía. Ahí se escribe la regla: qué tipos de documento pueden salir, cuáles no salen nunca y qué se retira del texto antes de enviarlo. Una regla escrita, revisada y verificable en los registros.

En la práctica, buena parte del volumen no sale nunca.

Qué hardware exige

Menos de lo que se imagina para la primera categoría. Una máquina dedicada con una tarjeta gráfica de gama media basta para tratar el flujo de correo de una empresa y consultar una base documental.

El cálculo a hacer no es «cuánto cuesta la máquina», sino «cuánto cuesta la máquina, amortizada a tres años, frente a tres años de suscripción al volumen que consumo». Ese cálculo se inclina al local más de lo que se cree, sobre todo con volumen constante. Se inclina a la nube cuando el uso es esporádico.

Las trampas

Creer que un modelo local es «privado» por arte de magia. Lo es porque corre en su casa, no porque se llame local. Si su aplicación envía igualmente una copia a otro sitio para seguimiento o medición, no ha ganado nada. Compruebe qué sale, no lo que se anuncia.

Subestimar la explotación. Una máquina en casa es una máquina que hay que respaldar, actualizar y vigilar. No es difícil, pero tampoco gratis, y conviene decidir quién se ocupa antes de encargarla.

Empezar por la estrategia. La forma correcta de arrancar es un uso único y medible: un tipo de documento, un buzón, una pregunta recurrente. Se pone a funcionar de verdad un mes, se mide el tiempo ganado y se amplía solo si la cifra lo justifica.