La ciberseguridad es ahora un ‘deporte de equipo’ en medio de una ola de ataques basados en IA generativa, dicen expertos en tecnología

Cuando OpenAI presentó su programa ChatGPT en noviembre de 2022, hizo que las aplicaciones de IA fueran accesibles para casi todos. El chatbot hizo tangible la IA para las personas comunes, no solo para los científicos de datos o ingenieros informáticos.

Pero no todos quieren usar estas herramientas con fines benignos. A principios de este año, un trabajador financiero en Hong Kong transfirió más de USD 25 millones a estafadores que usaron tecnología deepfake para hacerse pasar por el director financiero de la empresa en una videollamada.

“Estas son cosas que me quitan el sueño,” dijo Maria Milosavljevic, directora del grupo de seguridad de la información en ANZ Banking Group, durante una conversación virtual de Fortune el miércoles. “Desafortunadamente, la IA, que es increíblemente útil y poderosa, está disponible tanto para nuestros amigos como para nuestros enemigos”.

El evento, realizado en asociación con Accenture, exploró la interacción entre las nuevas herramientas de IA generativa y la ciberseguridad.

Existe “una ampliación del alcance y el volumen de ataques en general,” dijo Scott Wilkie, líder global de seguridad de tecnología emergente en Accenture. La firma de consultoría ha visto aproximadamente una “duplicación” de los ataques de ransomware y un aumento del 1,000% en los ataques de phishing en los últimos 12 meses.

“La IA generativa y los nuevos modelos de lenguaje grande están permitiendo ataques más sofisticados en mayor volumen,” dijo.

Calvin Ng, director del centro de programas de ciberseguridad en la Agencia de Seguridad Cibernética de Singapur, reconoció que la frecuencia y gravedad de los ciberataques habían aumentado. La evaluación y gestión adecuada de riesgos son necesarias, explicó.

“Puedes crear fácilmente un correo electrónico de phishing, puedes automatizar fácilmente el malware,” elaboró Ng. “No necesitas ser un profesional de la ciberseguridad; puedes crear malware usando ChatGPT. Las cosas se están simplificando; hacer el mal se simplifica hoy en día”.

Ng advirtió sobre el potencial de la “contaminación de datos,” donde un adversario apunta al conjunto de entrenamiento detrás de un modelo de IA. Las organizaciones necesitan pensar en las consecuencias de desplegar IA que pueda “rastrear información de todas partes y producir información libremente sin consultar a alguien,” y poner barreras para prevenir la contaminación de datos, explicó.

El miércoles, Microsoft anunció que había descubierto una manera de liberar un modelo de IA generativa, haciendo que ignorara sus barreras y generara contenido relacionado con explosivos, drogas y política.

Sin embargo, los panelistas también señalaron que la IA puede ayudar, y no solo obstaculizar, a los equipos de ciberseguridad.

“Recibimos más de 10 mil millones de eventos de datos cada día. No podemos tener seres humanos revisando cada cosa, por lo que el 35% de nuestra respuesta a incidentes ya ha sido automatizada gracias al aprendizaje automático y la IA”, dijo Milosavljevic.

La ciberseguridad como ‘deporte de equipo’ A medida que los ataques se expanden, la ciberseguridad es menos una iniciativa que solo concierne a los departamentos de TI. El miércoles, los panelistas señalaron que la ciberseguridad no es solo una iniciativa de toda la empresa, sino un esfuerzo que incluye a múltiples partes, incluidos los gobiernos nacionales.

“Siempre hemos dicho que la ciberseguridad debe ser un deporte de equipo,” dijo Wilkie. “Ciertamente, en los últimos cinco años, nunca había visto un momento en que la colaboración fuera mayor o tuviera mejores intenciones”.

Por ejemplo, unos 40 países forman parte de un pacto internacional para acordar no ceder ante las demandas de los atacantes de ransomware. Los miembros también acuerdan trabajar juntos para emprender proyectos de investigación para construir resiliencia.

Parte de por qué los gobiernos se preocupan es también por la seguridad nacional y la geopolítica. Mientras que la tecnología puede ayudar a un país a hacer crecer su economía, necesita hacerlo en un “entorno equilibrado”, dijo Ng.

Las empresas, y particularmente aquellas fuera de industrias fuertemente reguladas, realmente necesitan tener su “higiene cibernética básica correcta,” dijo Jennifer Tiang, directora regional de práctica cibernética para Asia en Willis Towers Watson. Comparó esto con la seguridad del hogar: Tener los sistemas de cámaras más sofisticados significa poco si los propietarios deciden no cerrar sus puertas con llave.

“Los riesgos a los que se enfrentan son muy sofisticados,” dijo. “Necesitan hacer bien lo básico e invertir donde quizás hubo una inversión mínima”.

(C) 2024, Fortune