A vezérigazgató szerint a következő hat hónapban várható az első jelentős AI-incidens
Navrina Singh, a Credo AI vezérigazgatója arra figyelmeztet, hogy a következő hat hónap kritikus lesz az AI-iparág számára, és előrejelzése szerint idén bekövetkezik az első jelentős AI-incidens. Singh érvelése szerint a hagyományos benchmarkok nem mondják el a teljes igazságot a modellek biztonságáról, és elárulta, hogy a Credo AI több mint 600 olyan kockázatot követ nyomon, amelyeket a benchmarkok figyelmen kívül hagynak. A Fortune 500-as cégek elsődleges aggodalma az egyszerű chatbotoktól az autonóm ágensek felé való elmozdulás, amelyek képesek a vállalati határokon átnyúló interakciókra, ami jelentős biztonsági és igazodási (alignment) sebezhetőségeket hordoz magában.
- Singh azt jósolja, hogy a következő hat hónapon belül jelentős AI-incidens fog történni.
- A Credo AI több mint 600 olyan vállalati kockázatot tart nyilván, amelyeket a standard benchmarkok elkerülnek.
- Egy valós eset során egy AI-chatbot a versenytársak termékeit ajánlotta az ügyfeleknek.
- Navrina Singh szerint a jövőben a „bizalom lesz az egyetlen védmű” az AI-cégek számára.
Azok a vállalatok, amelyek kizárólag a benchmark pontszámok alapján választanak AI-modelleket, gyakorlatilag „orosz rulettet játszanak” üzleti biztonságukkal.