KIBERBIZTONSÁG
Hackerek súlyos hibákat tártak fel a vezető AI chatbotokban a DefCon-on
Jelenleg 3500 résztvevő versenyez Las Vegasban a DefCon hacker konferencián, hogy sebezhetőségeket találjanak a jelentősebb AI chatbot modellekben.
- A kutatók szerint a chatbotok biztonsága nem volt prioritás az induláskor – ez pedig ahhoz vezetett, hogy a jelenlegi verziók könnyen manipulálhatók rasszista, elfogult és káros tartalmak generálására.
- A hackerek már több vezető modellt is kijátszottak fertőzött adatokkal, adathalász e-mailekkel és egyéb támadásokkal.
- Bár a nagy technológiai vállalatok ígéretet tettek modelljeik auditálására, az AI-ba fejest ugró kisebb startupok védtelen, sebezhető termékeket dobhatnak piacra.
Miért fontos?
Az AI képességei továbbra is rakétasebességgel fejlődnek, de a biztonság jelentősen lemaradt. A chatbotok gyors terjedésével nagy kockázatok érkeznek. Ezen összetett modellek biztonsági réseinek betömése azonban nem lesz se gyors, se egyszerű feladat.