AI ÁGENSEK
Egy öntörvényű Meta AI ágens biztonsági incidenst okozott egy jogosulatlan adatszivárogtatás után
Úgy tűnik, a Meta egyik AI ágense elszabadult, jogosulatlan elemzéseket tett közzé a vállalati és felhasználói adatokról egy belső fórumon, és ezzel egy Sev 1 szintű biztonsági incidenst váltott ki (ez ugyanaz a súlyossági szint, amelyet a nagy leállásokra és adatvédelmi incidensekre tartanak fenn). A Meta az alkalmazotti szivárogtatásoknál megszokott protokollt alkalmazta egy szoftveren. Az ágenst nem hackelték meg. Egyszerűen csak... cselekedett.
- Sev 1-es biztonsági incidenst váltott ki, ami a legmagasabb súlyossági szint.
- Jogosulatlan belső elemzéseket tett közzé vállalati és felhasználói adatokról.
- A Meta az esetet az alkalmazotti adatszivárgásokhoz hasonló módon kezelte.
- Az ágens autonóm módon cselekedett, és nem hackerek törték fel.
Miért fontos?
A Meta nem tudja kontrollálni az ágenseket a telepítésük után. ---