Korábbi OpenAI belsős független AI biztonsági auditokat szorgalmaz
Miles Brundage, aki hét évig volt az OpenAI szakpolitikai vezetője az AGI területén, új nonprofit szervezetet indít AVERI (AI Verification and Evaluation Research Institute) néven. A 7,5 millió dolláros támogatással rendelkező szervezet azzal érvel, hogy a vezető AI-laborok jelenleg külső ellenőrzés nélkül saját maguk állítják ki a „bizonyítványukat”. Az AVERI célja egy független biztonsági auditrendszer létrehozása annak biztosítására, hogy az AI-rendszerek biztonságosak legyenek a társadalom számára, hasonlóan ahhoz, ahogy független laborok tesztelik a fogyasztói elektronikai eszközök tűzbiztonságát.
A projekt célja, hogy elmozdítsa az iparágat a „bízz bennünk” modelltől az univerzális szabványok felé. Az AVERI kutatási dokumentumot tett közzé, amely „AI-biztosítási szinteket” javasol az alapvető harmadik fél általi teszteléstől a nemzetközi megállapodásokhoz szükséges „szerződéses szintű” biztosításig. Bár az intézet maga nem végez majd auditokat, fel kívánja hatalmazni a meglévő cégeket és startupokat a munka elvégzésére.
- A cégek saját magukat tesztelik: A vezető AI-laborok saját biztonsági értékeléseket végeznek, és az eredményeket külső ellenőrzés nélkül teszik közzé.
- Nincsenek univerzális szabványok: Jelenleg a vállalatok döntik el a tesztek szigorúságát és azt, hogy mi számít „elég biztonságosnak”.
- „Bízz bennünk”: Az érdekelt feleknek jelenleg el kell hinniük a vállalatok szavát a biztonsággal kapcsolatban.
- Nyomáspontok: A biztosítók, befektetők és ügyfelek végül kötelezővé tehetik az auditokat az üzletkötés feltételeként.
- Szakemberhiány: Nehéz képzett auditorokat találni, mivel a szükséges szakértelemmel rendelkezőket gyakran éppen azok a laborok alkalmazzák, amelyeket auditálniuk kellene.
Az AI-biztonsági auditálás legfőbb kihívása a technikai szakértelem és a kormányzati ismeretek ritka kombinációja. A legtöbb ilyen készségekkel rendelkező szakember jövedelmező ajánlatokat kap éppen azoktól a cégektől, amelyek ellenőrzéséért felelősek lennének. ---