La compañía detrás del popular chatbot de IA Claude ha emitido una advertencia escalofriante sobre el creciente uso de herramientas de IA por parte de los ciberdelincuentes a medida que la tecnología se vuelve cada vez más sofisticada.
En su último informe de Threat Intelligence, Anthropic detalló el caso reciente de cómo un hacker utilizó sus herramientas de IA para lanzar un ciberataque dirigido a numerosas empresas y organizaciones.
Según Anthropic, el hacker utilizó un agente de codificación de IA (en este caso Claude Code), una herramienta que es capaz de escribir, editar y ejecutar código con una mínima intervención humana.
Dijo que durante el mes pasado, el pirata informático usó el agente para automatizar «el reconocimiento, la recolección de credenciales y la penetración de la red a escala», robando datos confidenciales de al menos 17 empresas y organizaciones en el gobierno, la atención médica, los servicios de emergencia y las instituciones religiosas.
El perpetrador pudo obtener los registros personales de las personas, incluidos datos de atención médica, información financiera y credenciales gubernamentales antes de exigir pagos de rescate mientras amenazaba con exponer los datos en línea si no se cumplían las demandas.
El agente de IA de Claude incluso analizó los datos financieros robados para determinar el monto de rescate apropiado (se exigieron hasta $ 500,000 en algunos de los ataques) y también creó notas de rescate «visualmente alarmantes» que aparecieron en las pantallas de las computadoras de los objetivos.
Anthropic dijo que la audaz operación demuestra «una evolución preocupante en el cibercrimen asistido por IA» y «representa un cambio fundamental en la forma en que los ciberdelincuentes pueden escalar sus operaciones» ahora que la IA se puede usar para automatizar gran parte del proceso de piratería, aunque bajo dirección humana.
Si bien no está claro si alguno de los objetivos en este caso particular pagó, Anthropic dijo que ahora ha tomado medidas para prevenir este tipo de uso indebido. Pero agregó que es probable que este método de ataque se vuelva cada vez más común «a medida que la IA reduzca la barrera de entrada para operaciones sofisticadas de ciberdelincuencia».
Su último informe de Threat Intelligence también destacó cómo los operativos norcoreanos han estado utilizando a Claude para asegurar de manera fraudulenta puestos de trabajo remotos en compañías de tecnología Fortune 500 de EE. UU., y otro caso en el que un ciberdelincuente usó sus herramientas de inteligencia artificial para crear y comercializar varios productos de ransomware, vendiéndolos a otros ciberdelincuentes por hasta $ 1,200 cada uno.
Muchos piratas informáticos han estado usando IA de alguna forma durante años. Sin embargo, los chatbots como ChatGPT, que se lanzó en 2022, han facilitado el lanzamiento de ataques, y ahora el aumento de los agentes de IA representa una amenaza aún mayor. Afortunadamente, la misma tecnología que están explotando los atacantes también está siendo aprovechada por las empresas de ciberseguridad para construir una línea de defensa crítica, aunque claramente es una batalla constante para mantener el ritmo.
