Per Brian Plessen Torres, Team Leader & Technical CiberSecurity
Nous riscos lligats a l’ús d’IA
Els avenços a IA han sofisticat els ciberatacs, proporcionant als ciberdelinqüents eines més precises. Per exemple, amb el perfeccionament dels atacs de pesca, que augmenta l’efectivitat dels atacs en fer que els correus electrònics fraudulents siguin encara més difícils de detectar.
A més, la proliferació de la IA generativa ha obert noves portes per a la creació de contingut fals, com ara imatges, vídeos i text, que poden ser utilitzats per enganyar els usuaris i propagar la desinformació. Les tecnologies actuals permeten, si es disposen de mostres suficients d’exemple, arribar a simular l’escriptura o fins i tot la veu d’individus concrets, com ara els alts executius dins d’una organització. ¿Quién desconfiaría de un mensaje grabado con la voz de tu jefe? És important, per tant, conscienciar sobre aquestes noves amenaces.
Els assistents virtuals basats en IA també presenten riscos, ja que alguns poden ser manipulats pels usuaris per accedir a informació confidencial o fer operacions no autoritzades dins de l’organització. A més, és fonamental avaluar amb cura la informació que es proporciona a aquests assistents virtuals, ja que, sense voler-ho, podem estar facilitant a altres usuaris ia ciberdelinqüents informació confidencial de la nostra empresa. Per aquesta raó, la seguretat i la privadesa de les dades han de ser consideracions prioritàries a l’hora d’implementar aquestes solucions, conscienciant els usuaris dels riscos i assegurant per part de l’equip d’IT que s’aposta per una solució segura i s’adopten mesures adequades. per a la protecció de la informació confidencial de lorganització.
Per exemple, Microsoft 365 Copilot utilitza la mateixa tecnologia i motor que ChatGPT, però proporciona mesures de seguretat extra que ho fan preferible en el seu ús dins una organització. Les sol·licituds i les respostes, i els documents proporcionats o generats, no es comparteixen ni s’envien per entrenar els models cognitius, sinó que romanen en tot moment dins del tenant de l’organització. A més incorpora xifratge de la informació que es transmet entre el dispositiu de l’usuari i el servei al núvol, utilitzant protocols segurs com SSL/TLS1 i hereta les mesures de seguretat i compliment preexistents a Microsoft 365. Tot i això, Microsoft no recomana el seu ús en versions de Microsoft 365 standard, que no disposen de les eines de seguretat que sí que inclouen versions superiors com Premium o Enterprise, i aconsella una implementació basada en principis de confiança zero (Zero Trust) per crear una base sòlida de seguretat abans de la seva utilització a l’organització.
La IA com a aliada de la Ciberseguretat
Després de parlar dels riscos, vegem l’altra cara de la moneda: com la Intel·ligència Artificial es pot convertir en una gran aliada en l’estratègia de securització de les dades i els actius digitals de la nostra organització. Des de fa alguns anys, les principals empreses líders en ciberseguretat estan dotant de capacitats d’Intel·ligència Artificial els seus productes i creant noves solucions innovadores que ajuden a protegir les organitzacions contra l’evolució i l’augment de les ciberamenaces.
Elements de seguretat com el DLP (Prevenció de pèrdua de dades) o EDR/XDR (Detecció i Resposta per a Endpoints / Detecció i Resposta Estesa) són exemples de solucions que estan fent ús de la IA per enfortir la seguretat dels sistemes i protegir la integritat de les dades. Els centres d’operacions de seguretat (SOC) utilitzen també cada cop més la IA per automatitzar tasques, identificar patrons anòmals o per analitzar els grans volums de dades en temps real, aconseguint detectar i alertar en menor temps les amenaces.
Vegem-ne alguns exemples d’aquest tipus de solucions:
CYREBRO és una plataforma de ciberseguretat avançada que destaca pel seu enfocament integral i l’ús estratègic de la Intel·ligència Artificial (IA) per millorar la detecció i la resposta ante amenazas. Gràcies a les capacitats que proporciona la seva capa d’IA, CYREBRO pot gestionar i analitzar milers de milions de conjunts de dades de fonts estructurades i no estructurades, detectant connexions entre amenaces, com adreces IP malicioses i arxius sospitosos, generant alertes automàticament i iniciant els procediments de resposta als incidents de seguretat. Aquestes funcionalitats de CYREBRO juntament amb la capacitat contrastada del seu equip expert d’Incident Respond va ser la raó per la que des d’ABAST vam escollir aquesta plataforma com a base per als nostres serveis gestionats Abast CybALL SOC.
Fortinet ha desenvolupat diverses solucions que aprofiten la IA per millorar la seguretat i detecció d’amenaces. Una és FortiNDR, que utilitza aprenentatge automàtic i xarxes neuronals profundes per identificar ciberatacs basats en l’activitat anòmala de la xarxa, detectant i responent automàticament a aquests incidents de seguretat. També compta amb FortiXDR. una solució de detecció i resposta estesa (XDR) basada en intel·ligència artificial que redueix la complexitat, accelera la detecció i coordina la resposta davant de ciberatacs a tota l’organització. Sota un enfocament de seguretat global, Fortinet ha madurat la tecnologia basada en IA i Machine Learning (ML) per analitzar més de 100 mil milions d’esdeveniments de seguretat global al dia, que transforma després en actualitzacions de seguretat per als seus productes.
Trend Micro ha utilitzat des de 2005 diferents formes d’IA/ML en les seves solucions, cosa que li ha permès millorar en la detecció d’amenaces de dia zero en temps real, minimitzar els falsos positius i ampliar la detecció de tot tipus de codi maliciós (malware). La nova plataforma Trend Vision One integra funcions XDR (detecció i resposta esteses) i IA generativa i proporciona una sòlida gestió de riscos a la superfície d’atac, protecció multicapa en entorns híbrids i una resposta més ràpida davant d’amenaces emergents.
Kaspersky compta també amb diverses solucions reforçades amb l’ús d’IA, esmentarem només algunes de les més destacades. Kaspersky Endpoint Security incorpora IA i anàlisi heurística per detectar i prevenir atacs avançats, amb un motor de detecció d’amenaces que utilitza models d’aprenentatge automàtic per avaluar l’activitat maliciosa i protegir els dispositius finals. Kaspersky Security Cloud ofereix una capa addicional de seguretat amb IA basada en el núvol. Aquesta solució analitza dades d’amenaces en temps real i actualitza automàticament les defenses a tots els dispositius connectats. Kaspersky Anti-Ransomware Tool utilitza algorismes de IA per detectar i bloquejar ransomware abans que xifra els fitxers i proporciona una protecció específica contra aquest tipus d’amenaça..
Palo Alto, coneguda per les seves solucions de tallafocs de propera generació (NGFW) i el seu enfocament en la seguretat Zero Trust, va ser pioner fa 4 anys amb el llançament del primer NGFW amb capacitats de Machine Learning (ML). Cuenta también con otras soluciones potenciadas con IA, como Cortex XDR, una plataforma de detección y respuesta con IA antibrechas; Cortex XSIAM, plataforma de SOC basada en IA; o Strata Cloud Manager, la primera solución de gestión y operaciones Zero Trust con IA.
Millors pràctiques per a protecció contra les amenaces digitals
Com hem vist, la IA planteja un desafiament important per a les organitzacions: com aprofitar i nodrir-se dels beneficis sense exposar-se a nous riscos. Creiem que és fonamental que les empreses combinin l’ús de la IA amb la conscienciació constant dels empleats, juntament amb una col·laboració interna o externa amb experts en matèria de ciberseguretat, adoptant un enfocament totalment integral. Per protegir-se contra les amenaces digitals, des d’Abast recomanem que les organitzacions adoptin les bones pràctiques següents:
- Implementar solucions de seguretat basades en IA: Aprofitar la potència d’aquestes noves tecnologies i utilitzar solucions de ciberseguretat que facin servir IA per detectar i mitigar les amenaces de manera proactiva.
- Mantenir-se al dia amb la Formació i la Conscienciació: Capacitar regularment els empleats sobre les darreres tècniques d’enginyeria social i phishing, i conscienciar sobre els riscos associats amb l’ús de la IA generativa i els assistents virtuals.
- Col·laborar amb experts en Ciberseguretat: Establir aliances amb experts en ciberseguretat que puguin proporcionar assessorament especialitzat i ajudar a desenvolupar estratègies de defensa efectives.
- Implementar Polítiques de Seguretat rigoroses: Establir polítiques de ciberseguretat clares i robustes que tractin l’ús segur de la IA i els riscos associats amb la seva implementació.
- Realitzar Auditories de Seguretat regulars: Realitzar auditories de ciberseguretat regulars per identificar possibles vulnerabilitats i prendre mesures correctives de manera oportuna.
En conclusió, si bé la IA planteja nous reptes i riscos per a les organitzacions, també ofereix oportunitats sense precedents per millorar la ciberseguretat.
Des d’ABAST us podem ajudar a definir l’estratègia de ciberseguretat que la vostra empresa necessita tenint en compte els processos de negoci i els actius TI de la vostra organització.