Perplexity lanzó versión de su modelo de IA que corre localmente

Perplexity presentó Portable Computer, una versión de su plataforma de IA Perplexity Computer que se ejecuta por completo en una máquina local. Esta nueva versión fue desarrollada junto a NVIDIA, corre en el equipo de IA de escritorio NVIDIA DGX Spark y próximamente en computadoras con GPU NVIDIA RTX. Perplexity asegura que su idea es simple: que el usuario sea dueño de todo el stack tecnológico y procese su información en su propio equipo, sin depender de la nube.

Portable Computer permite analizar datos locales, sintetizar archivos, leer documentos y bases de código privadas, ejecutar flujos de trabajo complejos y realizar acciones directamente en el dispositivo, señala la compañía. «El orquestador, el planificador, el enrutador de herramientas, el programador, la cola de tareas duraderas y el índice de búsqueda local funcionan todos en la propia máquina. Además, incluye dictado por voz que se procesa localmente, de modo que el audio nunca sale del equipo», dice Perplexity en su blog.

Ventajas de procesar todo en local
La principal ventaja que se resalta es la privacidad. «Al trabajar con bases de código privadas, material confidencial, documentos sensibles o situaciones de clientes, todo permanece en el dispositivo. El usuario puede hablar sobre un cliente, dictar instrucciones sobre una base de código o analizar una hoja de términos confidencial sin que esa información toque la nube».

La segunda ventaja es el costo destacada es el costo. El trabajo gestionado por modelos locales no consume créditos, lo que permite ejecutar tareas de gran volumen sin cargos. Según el artículo, tener capacidad similar a la de modelos de frontera en el propio equipo permite «dejar de racionar el uso de la inteligencia artificial».

Una tercera ventaja es el control. Cuando una tarea necesita enviar contenido a la nube, el sistema solicita permiso al usuario antes de continuar. Así, los detalles sensibles pueden quedar en el dispositivo mientras solo se sube lo estrictamente necesario.

Hardware y modelos
El DGX Spark se construye sobre la plataforma Grace Blackwell GB10, con una CPU Arm de 20 núcleos, una GPU NVIDIA y 128 GB de memoria unificada. Los modelos locales incluyen Qwen 3.8 27B, PPLX 27B (una versión postentrenada de Qwen) y próximamente NVIDIA Nemotron 3.5 Lightning. El modelo de dictado, NVIDIA Nemotron 3.5 ASR, también corre en local. La instalación es de un solo clic desde la aplicación de Perplexity.

La super minicomputadora de IA de Nvidia DGX Spark.

El modelo local está entrenado para completar en el dispositivo la mayor parte posible de cada tarea, pero puede escalar a la nube cuando se necesita información actualizada, uso del navegador, aplicaciones conectadas, razonamiento avanzado o alguno de los más de 15 modelos de frontera disponibles. Por ejemplo, los datos confidenciales de una hoja de términos quedan en local, mientras el sistema sube a la nube solo para buscar comparables de mercado o acuerdos recientes, siempre con autorización previa del usuario.

Portable Computer se integra con Google Drive, Gmail, Slack y GitHub, lo que permite automatizar flujos como clasificar incidencias de GitHub durante la noche y enviar un resumen por Slack por la mañana. En cuanto a seguridad, la ejecución de código y herramientas se realiza en entornos sandbox aislados, con acceso controlado a archivos y aplicaciones conectadas, igual que en la versión en la nube.

El nuevo modelo está disponible para suscriptores Pro y Max, inicialmente en NVIDIA DGX Spark y Linux, con compatibilidad para Windows y próximamente en equipos con GPU NVIDIA RT. «En conjunto, Portable Computer apuesta porque el futuro del trabajo con IA se realice cada vez más en los propios equipos, combinando privacidad, control y ahorro de costos», subraya Perplexity.