Connect with us

Tecnología

Microsoft y OpenAI alertan sobre el aumento de ciberdelincuentes que usan IA

Published

on

Recientes investigaciones por parte de reconocidas empresas del sector tecnológico como Microsoft y OpenAI han revelado que grupos de hackers vinculados a Rusia, Corea del Norte, Irán y China están aprovechando herramientas de inteligencia artificial avanzada, como el modelo GPT-4, para realizar ataques más sofisticados y difíciles de detectar.

Esta nueva estrategia marca un cambio significativo en los métodos empleados por estos actores maliciosos, poniendo en relieve los retos que enfrenta la seguridad informática global.

Además, el empleo de modelos de lenguaje de gran tamaño (LLM) por estos grupos de ciberdelincuentes señala una evolución notable en sus tácticas.

Cómo los ciberdelincuentes usan la IA

Los ciberdelicneuntes aprendieron sobre ChatGPT y mejoraron la efectividad de sus ataques. (Foto: EFE/ Rayner Peña R. ARCHIVO)
Los ciberdelicneuntes aprendieron sobre ChatGPT y mejoraron la efectividad de sus ataques. (Foto: EFE/ Rayner Peña R. ARCHIVO)

Las LLM permiten optimizar operaciones técnicas complejas, así como ejecutar de manera más eficaz campañas de ingeniería social y phishing, haciéndolas más creíbles y, por ende, más peligrosas.

Esta amenaza emergente fue identificada a través de investigaciones realizadas por las dos empresas mencionadas, las cuales destacaron la adaptabilidad y la innovación constante en las filas de estos actores de amenazas.

Entre los grupos mencionados en estas investigaciones se encuentran Strontium, vinculado con Rusia; Emerald Sleet, con Corea del Norte; Charcoal Typhoon, asociado a China; y Crimson Sandstorm, conectado con Irán.

Estos grupos han demostrado una habilidad particular para adaptar las capacidades de LLM a fin de mejorar la precisión y efectividad de sus ataques. Esto incluye desde la redacción de correos electrónicos de phishing indistinguibles de los legítimos hasta la búsqueda de vulnerabilidades en sistemas con una eficacia sin precedentes.

Qué hechos se han presentado recientemente

La IA incide en que los ciberataques sean más sofisticados. (Imagen Ilustrativa Infobae)La IA incide en que los ciberataques sean más sofisticados. (Imagen Ilustrativa Infobae)

Un caso destacado en estas investigaciones es el de Emerald Sleet, grupo que logró explotar la vulnerabilidad CVE-2022-30190, evidenciando así el nivel de sofisticación y amenaza que estas nuevas tácticas representan para entornos digitales a nivel mundial.

La capacidad para identificar y explotar tales vulnerabilidades marca un antes y un después en la manera en que entendemos la ciberseguridad y el juego del gato y el ratón entre ciberdelincuentes y defensores de la red.

Ante este escenario, tanto Microsoft como OpenAI han tomado medidas decisivas, incluyendo el bloqueo de cuentas asociadas a estos grupos cibernéticos, y han intensificado su monitoreo respecto al uso indebido de sus servicios de IA.

La publicación de estos estudios sirve como un llamado de atención sobre la urgente necesidad de reforzar las medidas de seguridad informática para contrarrestar la creciente amenaza que supone la integración de la IA en el cibercrimen.

Qué supone el uso de inteligencia artificial para delitos cibernéticos

El uso de esta tecnología propone avances pero también dilemas éticos. (Imagen Ilustrativa Infobae)El uso de esta tecnología propone avances pero también dilemas éticos. (Imagen Ilustrativa Infobae)

La utilización indebida de herramientas de IA por parte de ciberdelincuentes plantea dilemas importantes sobre los beneficios y riesgos de la inteligencia artificial.

Mientras que la IA tiene el potencial de transformar positivamente muchos aspectos de la sociedad, su uso en el contexto del cibercrimen destaca la imperiosa necesidad de establecer controles más estrictos y desarrollar estrategias de defensa más robustas y adaptativas.

Ahora, más que nunca, empresas, organizaciones y autoridades alrededor del mundo deben colaborar para enfrentar este desafío creciente.

Cómo prevenir ser víctima de estos ciberataques

Las capas de seguridad básicas y educación contribuyen a disminuir esta amenaza. (Imagen Ilustrativa Infobae)Las capas de seguridad básicas y educación contribuyen a disminuir esta amenaza. (Imagen Ilustrativa Infobae)

El desarrollo de tecnologías de defensa que puedan anticiparse y neutralizar estos ataques avanzados es fundamental. También, la educación sobre las mejores prácticas de seguridad informática entre usuarios y profesionales del sector se convierte en un pilar indispensable para fortalecer la primera línea de defensa contra la ciberdelincuencia.

De esta manera, la carrera entre los defensores de la ciberseguridad y los ciberdelincuentes se intensifica con la adopción de herramientas de IA por parte de estos últimos.

Expertos señalan que la batalla por la seguridad en el ciberespacio es compleja, subrayando la continua evolución del panorama de amenazas en línea y la crucial necesidad de adaptación y cooperación internacional para proteger los sistemas y datos en este entorno cada vez más digitalizado.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Tecnología

Desde ponerle pegamento a la pizza hasta perros en la NBA: la IA de Google empezó a alucinar en sus respuestas

Usuarios del buscador denunciaron que su función basada en inteligencia artificial responde coherencias. La empresa minimizó el problema: “Son casos aislados”.

Published

on

La semana pasada, Google anunció importantes planes para cambiar su página de resultados de búsqueda. Su idea era darle prioridad a una función llamada AI Overview, que utiliza inteligencia artificial para resumir la información que las personas buscan en su plataforma. Pero la propuesta no salió como se esperaba.

Según denunciaron varios usuarios en las redes sociales, la nueva función brinda resultados inexactos y, en algunos casos, consejos peligrosos, como, por ejemplo, usar pegamento sintético para que el queso no se deslice de la pizza.

Desde Google explicaron que se trataba de ejemplos aislados. Sin embargo, los reclamos afirmaban que la IA alucinaba y respondía incoherencias que, en algunos casos, estaban basadas en comentarios de Reddit o artículos del medio humorístico The Onion.

La IA de Google empezó a alucinar en sus respuestas (Foto: Adobe Stock/Rafael Henrique)
La IA de Google empezó a alucinar en sus respuestas (Foto: Adobe Stock/Rafael Henrique)

Además de la sugerencia de usar pegamento en la pizza, AI Overview también respondió que algunos perros habían jugado en la NBA y en la NFL (la liga de fútbol americano de Estados Unidos) y que Barack Obama fue el primer presidente musulmán de Estados Unidos. Otro usuario denunció que Google le sugirió desinfectar un lavarropas con una receta potencialmente mortal de gas mostaza.

Después de esta situación, Google anunció este viernes que está tomando medidas rápidas para mejorar sus nuevos resultados de búsqueda elaborados con inteligencia artificial generativa: “Muchos de los ejemplos que hemos visto eran consultas poco comunes, y también hemos visto ejemplos manipulados o que no pudimos reproducir”, afirmó la empresa. Y agregaron que seguirán trabajando para desarrollar mejoras más amplias en sus sistemas.

Por último, aseguraron que la inmensa mayoría de las respuestas elaboradas por su IA proporciona información fiable y las barreras de seguridad integradas en la tecnología están diseñadas para evitar que aparezcan contenidos nocivos.

Qué es Google AI Overview

Las respuestas breves a preguntas objetivas están disponibles desde hace tiempo en el motor de búsqueda en forma de previsualizaciones de fragmentos de texto en los enlaces, sin embargo, los nuevos resúmenes de IA (AI Overview) tienen a veces varias líneas de longitud y se generan con inteligencia artificial solo en respuesta a la consulta de búsqueda del usuario.

AI Overviews ofrece respuestas a las consultas utilizando la tecnología de IA generativa de Google Gemini. Proporciona algunos fragmentos de una respuesta basada en su comprensión de las consultas y el contenido que encontró sobre el tema en la web.

Estos resúmenes, que solo se muestran, por ahora, en Estados Unidos, tienen el objetivo de darle a los usuarios una respuesta más inmediata a sus preguntas, en lugar de ofrecerles solo enlaces a sitios web donde podrían encontrar una solución.

Continue Reading

TENDENCIAS

Copyright © 1998 FUNDACION GRUPOCLAN prensagrupoclan@gmail.com