Група за разузнавање на закани предупредува на нова ера на сајбер криминал каде што хакерите користат вештачка интелигенција за да пронајдат непознати ранливости во системите.
Сега можеме да го додадеме сајбер криминалот на растечкиот список на загрижености поврзани со вештачката интелигенција.
Групата за разузнавање на закани на Google (GTIG) вели дека за прв пат открила напаѓач кој користи експлоатација „zero-day“ за која верува дека е развиен со вештачка интелигенција. Ранливостите „zer-day“ често се најопасни бидејќи се непознати за целите, оставајќи им 0 дена да се подготват за напад.
Google во извештајот наведува дека напаѓачот планирал да го користи во „настан на масовна експлоатација“, но дека нивното проактивно откривање „веројатно го спречило неговото користење“.
Компанијата додаде дека не веруваат дека биле користени нивните сопствени Gemini модели, но остануваат уверени дека модел на вештачка интелигенција бил вклучен во пронаоѓањето на ранливоста и претворањето на таа маана во оружје за напад.
Со оглед на тоа колку брзо се развиле моделите на вештачка интелигенција за секојдневна употреба, не е изненадувачки што се користат и за злонамерни цели.
Во интервју за New York Times, Џон Хаквист, главен аналитичар во GTIG, го окарактеризира ова како „навестување за тоа што доаѓа“ и „врв на ледениот брег“, додавајќи дека овој случај е само првиот „опиплив доказ“ за вакви напади.
Google во својот извештај наведува дека напаѓачите користат вештачка интелигенција во различни фази од сајбер нападите, но исто така дека „вештачката интелигенција може да биде моќна алатка за одбрана“.
Како и Google, други компании користат модели на вештачка интелигенција за превентивни мерки. Минатиот месец, Anthropic го објави Project Glasswing, иницијатива задолжена за користење на моделот Claude Mythos Preview за пронаоѓање и одбрана од „ранливости со висока критичност“.
