Anthrope lanza un agente de Claude AI que vive en Chrome

Anthrope está lanzando una vista previa de investigación de un agente de IA basado en el navegador impulsado por sus modelos Claude AI, la compañía anunciado el martes. El agente, Claude para Chrome, se está implementando en un grupo de 1,000 suscriptores en el plan MAX de Anthrope, que cuesta entre $ 100 y $ 200 por mes. La compañía también está abriendo un lista de espera para otros usuarios interesados.

Al agregar una extensión a Chrome, los usuarios seleccionados ahora pueden chatear con Claude en una ventana Sidecar que mantiene el contexto de todo lo que sucede en su navegador. Los usuarios también pueden dar permiso al agente de Claude para tomar medidas en su navegador y completar algunas tareas en su nombre.

El navegador se está convirtiendo rápidamente en el próximo campo de batalla para AI Labs, cuyo objetivo es utilizar las integraciones del navegador para ofrecer conexiones más perfectas entre los sistemas de IA y sus usuarios. Perplexity lanzó recientemente su propio navegador, Cometaque presenta un agente de IA que puede descargar tareas para los usuarios. Según los informes, Operai está cerca de lanzar su propio Navegador con IAque se rumorea que tiene características similares a Comet. Mientras tanto, Google mismo ha lanzado Gemini Integrations con Cromo en los últimos meses.

La carrera para desarrollar navegadores con IA es especialmente apremiante dado el inminente caso antimonopolio de Google, en el que se espera una decisión final en cualquier momento. El juez federal en el caso ha sugerido que pueda obligar a Google a vender su navegador Chrome. La perplejidad presentó un Oferta no solicitada de $ 34.5 mil millones para Chromey el CEO de Operai, Sam Altman, sugirió que su compañía sería dispuesto a comprarlo también.

En la publicación del blog del martes, Anthrope advirtió que el surgimiento de los agentes de IA con el acceso al navegador plantea nuevos riesgos de seguridad. La semana pasada, el equipo de seguridad de Brave dijo que descubrió que el agente del navegador de Comet podría ser vulnerable a ataques indirectos de inyección inmediatadonde el código oculto en un sitio web podría engañar al agente para que ejecute instrucciones maliciosas cuando procesara la página.

(El jefe de comunicaciones de Perplexity, Jesse Dwyer, le dijo a TechCrunch en un correo electrónico que la vulnerabilidad que Brave planteó ha sido solucionada).

Anthrope dice que espera utilizar esta vista previa de la investigación como una oportunidad para atrapar y abordar nuevos riesgos de seguridad, sin embargo, la compañía ya ha introducido varias defensas contra ataques de inyección inmediatos. La compañía dice que sus intervenciones redujeron la tasa de éxito de los ataques de inyección inmediata del 23.6% al 11.2%.

Por ejemplo, Anthrope dice que los usuarios pueden limitar al agente del navegador de Claude a acceder a ciertos sitios en la configuración de la aplicación, y la compañía ha bloqueado, por defecto, a Claude, para acceder a sitios web que ofrecen servicios financieros, contenido para adultos y contenido pirateado. La compañía también dice que el agente de navegador de Claude solicitará el permiso del usuario antes de “tomar acciones de alto riesgo como publicar, comprar o compartir datos personales”.

Esta no es la primera incursión de Anthrope en modelos de IA que pueden controlar la pantalla de su computadora. En octubre de 2024, la compañía lanzó un agente de IA que podría Controla tu PC – Sin embargo, las pruebas en ese momento revelaron que el modelo era bastante lento y poco confiable.

Las capacidades de los modelos de IA de agente han mejorado bastante desde entonces. TechCrunch ha descubierto que los agentes de IA que usan el navegador moderno, como Comet y Agente de chatgptson bastante confiables para descargar tareas simples para los usuarios. Sin embargo, muchos de estos sistemas de agente todavía luchan con problemas más complejos.