tecnologia

La Inteligencia Artificial, un arma de doble filo

Expertos de la compañía exploran las implicaciones que tendrá el uso de esta herramienta, tanto por parte de atacantes como de expertos en ciberseguridad.

Aurelio Martínez/amartinez@epasa.com/@AurelioMartine - Actualizado:

Un asistente integral de IA para los especialistas en ciberseguridad.

La Inteligencia Artificial ha sido la gran protagonista en la feria internacional de tecnología CES, celebrada esta semana en Las Vegas: desde cepillos de dientes, parillas de barbacoa hasta carros ahora integran esta tecnología de una forma u otra. Ante la proliferación de su uso, los expertos de Kaspersky realizaron un análisis sobre la gran influencia de la IA en el panorama de ciberseguridad, explorando sus implicaciones y centrándose en el uso que, tanto los defensores y reguladores como los ciberdelincuentes, pueden darle a esta herramienta.

Versión impresa

La investigación de Kaspersky detalla cómo evolucionará el panorama de las amenazas relacionadas con la IA y reitera la importancia de contar con un marco regulatorio que permita el uso responsable de esta herramienta. Los aspectos más relevantes del estudio "El Impacto de la IA en la ciberseguridad" están a continuación:

Vulnerabilidades más complejas A medida que los Modelos de Lenguaje a Gran Escala (LLMs por sus siglas en inglés) se integran en más productos orientados al consumidor, surgirán nuevasvulnerabilidades complejas en la intersección de la IA generativa probabilística y las tecnologías deterministas tradicionales, ampliando la superficie de ataque que los profesionales de la ciberseguridad deben proteger. Esto requerirá que los programadores estudien nuevas medidas de seguridad, como la aprobación del usuario para las acciones que inician los agentes de LLMs que básicamente son los sistemas de IA para entender y generar texto de manera similar a cómo hacemos los seres humanos.

Un asistente integral de IA para los especialistas en ciberseguridad. Los investigadores y miembros del Red Team se valen de la IA generativa para crear  herramientas innovadoras de ciberseguridad, lo que, potencialmente, llevaría a tener un asistente que utilice el LLM o el Aprendizaje Automático (ML, por sus siglas en inglés).

Esta herramienta podría automatizar las tareas del Red Team, ofreciendo orientación basada en órdenes ejecutadas en un entorno de pentesting (ejercicio de prevención en el que un experto en ciberseguridad intenta encontrar y explotar vulnerabilidades en un sistema informático).

Las redes neuronales se utilizarán cada vez más para generar imágenes que ayuden a las estafas Este año, los estafadores podrían ampliar sus tácticas utilizando redes neuronales, para crear un contenido fraudulento más convincente aprovechando las herramientas de inteligencia artificial. Con la posibilidad de generar sin esfuerzo imágenes y videos convincentes, los agentes maliciosos plantean un mayor riesgo de intensificar las amenazas cibernéticas relacionadas con fraudes y estafas.

La IA no se convertirá en un motor de cambios revolucionarios en el panorama de amenazas durante 2024 A pesar de las tendencias anteriores, los expertos de Kaspersky siguen siendo escépticos respecto a que la IA cambie significativamente el panorama de amenazas en el corto plazo. Aunque los ciberdelincuentes adoptarán la IA generativa, lo mismo ocurre con los ciberdefensores, quienes utilizarán las mismas herramientas, o incluso otras más avanzadas, para probar la mejora de la seguridad en el software y las redes, lo que hace poco probable que alteren drásticamente el panorama de los ataques.

Más iniciativas regulatorias relacionadas con la IA con la contribución del sector privado Con su rápido desarrollo, la tecnología se ha convertido en un asunto de formulación de políticas y regulación. Está previsto que aumente el número de iniciativas regulatorias relacionadas con la IA. Los agentes que no son estatales, como es el caso de las empresas de tecnología, dada su experiencia en el desarrollo y uso de la Inteligencia Artificial, pueden proporcionar conocimientos invaluables para los debates sobre la regulación de la IA en las plataformas, tanto globales como nacionales.Marca de agua para contenido generado por IA Se necesitarán más regulaciones, así como las políticas de los proveedores de servicios, para señalar o identificar el contenido sintético, y estos últimos deben seguir invirtiendo en tecnologías de detección.

Los programadores e investigadores, por su parte, contribuirán en la creación de métodos de marca de agua para facilitar la identificación y procedencia de los medios sintéticos.

“La Inteligencia Artificial en ciberseguridad es un arma de doble filo. Sus capacidades adaptativas fortalecen nuestras defensas y ofrecen un escudo proactivo contra las amenazas en evolución. Sin embargo, ese mismo dinamismo plantea riesgos, ya que los atacantes aprovechan la IA para diseñar ataques más complejos. Lograr el equilibrio adecuado, garantizar un uso responsable sin compartir demasiados datos confidenciales, es primordial para proteger nuestras fronteras digitales”, comenta Vladislav Tushkanov, experto en seguridad de Kaspersky.

Este análisis exhaustivo, que forma parte del Boletín de seguridad de Kaspersky (KSB), es una recopilación anual de predicciones e informes detallados que ilustran cambios clave en el dinámico campo de la ciberseguridad. El estudio completo puede consultarse aquí.

¡Mira lo que tiene nuestro canal de YouTube!

Etiquetas
Por si no lo viste
Regístrate para recibir contenido exclusivo
Más Noticias

Política Cortizo: 'Todos deben correr y eso incluye a Mulino'

Provincias Aduanas y empresas portuarias en Colón refuerzan acciones contra comercio ilícito

Opinión Gobernabilidad y riesgo país, según Fitch

Deportes Chiriquí busca su boleto a la final; Occidente extender la serie semifinal

Provincias La alcaldía pide investigar fuego en vertedero de Chame

Economía Inflación interanual a marzo en Panamá llega a 1,7%

Opinión Las necesidades extremas de la población

Deportes Panamá cae ante Cuba en futsal; pero va por su boleto al Mundial

Sociedad Cortizo justifica los auxilios económicos y hace propuesta

Mundo Teherán no desea una mayor escalada en Oriente Medio

Deportes Xavi pide dejar la piel; PSG va por la remontada

Opinión Iniciativa de Turismo en Bella Vista

Economía Nuevos préstamos millonarios para financiar presupuesto 2024

Sociedad Nueve personas han muerto por dengue en Panamá este año

Opinión Que los está matando

Deportes Jhonny Santos es el Jugador Más Valioso del béisbol mayor

Economía ¿Por qué el límite de autogeneración de energía ha generado rechazo?

Política Gremios pesqueros manifiestan total respaldo a Mulino

Deportes Panamá vence a Canadá en el Premundial de Futsal

Opinión Los ante PRD y sus mandatos en Panamá post Invasión Ricardo Martinelli y José Raúl Mulino igual a RM2 (2024)

Economía Canal de Panamá apunta a descarbonizar su actividad

Economía Canal de Panamá elevará tránsitos diarios a 32 desde junio

Deportes Colón y Darién tienen una serie pareja en el béisbol mayor

Opinión Su excelencia: La educación

Política Mulino se mantiene al frente en nueva encuesta del IPEC

Judicial Moncada acusa a Ricardo Lombana de chantaje y de ser un farsante

Deportes París 2024, a pocos días de los Juegos Olímpicos

Política Antinori pone al descubierto la parcializada opinión de Pedreschi

Provincias Capturan a un hombre implicado en caso de zoofilia en Veraguas

Sucesos Miembro de Senafront abusaba de su hija desde los 8 años

Aldea global Océanos sufren un blanqueo masivo de los corales

Economía Autorizan importación de 1.7 millones de quintales de arroz

Suscríbete a nuestra página en Facebook