Ai biztonság

Az AI-modellek képesek kitalálni a személyes adatokat látszólag teljesen anonim szövegekből is, ami új, eddig ismeretlen dimenziókat nyit meg az adatvédelem...

Ez a narratív jelentés egy belső feljegyzést ismertet a HYMN nevű új AI rendszerről, amely minden kvantitatív biztonsági teszten átment, de egy kvalitatív...

A biztonsági problémák mindenütt felbukkannak. Az npm eltávolította a rosszindulatú verziókat. Ma reggel ezt küldtem az ügynökeimnek: biztonsági incidens...

Egy 13 AI-modellt vizsgáló kutatás megállapította, hogy a modellek könnyen meggyőzhetők az akadémiai csalásokban való közreműködésre, például hamis tanulmányok...

Az Anthropic felfedte, hogy a Claude Opus 4.6 modell „eval awareness” (tesztelési tudatosság) jeleit mutatta, mivel önállóan rájött, hogy a BrowseComp...

Az Anthropic kivezette a 2023-as Felelős Skálázási Irányelvét (Responsible Scaling Policy), amely korábban megkövetelte a vállalattól az AI-fejlesztés...

Az Anthropic közzétette legújabb szabotázskockázati jelentését, amely feltárja, hogy az új Claude Opus 4.6 modell „fokozott fogékonyságot” mutat a...

Több mint 100 AI szakértő tette közzé a második Nemzetközi AI Biztonsági Jelentést, melynek vezető szerzője az AI keresztapja, Yoshua Bengio. A jelentés arra...

Az egyének és szervezetek egyre gyakrabban használnak nagy nyelvi modelleket olyan tartalomgyártáshoz, amellyel a figyelemért versenyeznek. Vajon az LLM-ek...

Az OpenAI megfigyelés alatt tartja legfejlettebb AI modelljeit, miközben azok „gondolkodnak” – és rajtakapták őket olyan kijelentéseken, mint „Hackeljük meg”...

Az OpenAI új életkor-előrejelző rendszert vezetett be a ChatGPT-hez, amelynek célja a kiskorúak azonosítása viselkedési és fiókszintű jelek alapján. Ez a...

Az OpenAI korábbi szakpolitikai vezetője, Miles Brundage elindította az AVERI-t, egy új nonprofit szervezetet, amely a legfejlettebb (frontier) AI modellek...

Peres eljárás indult, amely szerint a ChatGPT erősítette egy felhasználó téveszméit, ami gyilkosság-öngyilkosságba torkollott 2025 augusztusában. Az eset...

Az OpenAI olyan kutatást osztott meg, amely szerint az AI-integrált böngészők tartós prompt injection sebezhetőségekkel néznek szembe, amelyeket valószínűleg...

Egy közelmúltbeli red teaming gyakorlat során az Anthropic bebizonyította, hogy az AI modellek rendkívül hatékonnyá váltak a pénzügyi technológiák biztonsági...

Jared Kaplan, az Anthropic vezető tudósa arra figyelmeztetett, hogy az emberiség „eddigi legnagyobb döntése” előtt áll 2027 és 2030 között az AI jövőjét...

Az OpenAI közzétett egy Mixpanel biztonsági incidenst, amely API-felhasználói adatokat – neveket, e-maileket, felhasználói azonosítókat és helyadatokat – tett...

Emlékszem, még 2016 decemberében az OpenAI-nál Dario és én közzétettünk egy blogbejegyzést „Hibás jutalmazási függvények a vadonban” címmel. Ebben a posztban...

Eliezer Yudkowsky és Nate Soares új könyvet adott ki „If Anyone Builds It, Everyone Dies” (Ha bárki megépíti, mindenki meghal – IABIED) címmel, amelyben...

A Google DeepMind kiadta a Frontier Safety Framework 3.0-t, kiterjesztve az AI kockázatok megfigyelésére irányuló erőfeszítéseit olyan újonnan megjelenő AI...

Az OpenAI tisztázta álláspontját a felhasználói biztonsággal kapcsolatban, éles határvonalat húzva a felnőtt felhasználók és a tinédzserek kezelése között. Míg...

Az OpenAI jelentős fejlesztéseket jelentett be a ChatGPT mentális egészségügyi védelmi rendszereiben, miután egy család pert indított, mert fiuk öngyilkosságot...

Ahogy a vállalatok autonóm ágenseket telepítenek, egy új fenyegetés jelenik meg, amelyet „ágens-ágens mérgezésnek” neveznek. Navrina Singh elmagyarázza, hogy...

A Google „Big Sleep” névre keresztelt, AI-alapú hibavadásza jelentette első, 20 sebezhetőségből álló csomagját olyan népszerű open-source szoftverekben, mint...

Az Amazon AI kódolási asszisztensét, a Q-t, a közelmúltban biztonsági incidens érte, ami potenciálisan közel 1 millió fejlesztőt sodort veszélybe. Egy...

A Shanghai Artificial Intelligence Laboratory kutatói alapos (kb. 100 oldalas) értékelést végeztek mintegy 20 LLM biztonsági jellemzőiről, kínai és nyugati...

Az MIT kutatói elméleti elemzést végeztek arról, hogyan működhet a skálázható felügyelet a kevésbé okos AI-któl az okosabb AI-k felé – és a jó hír az, hogy...

A 'Think Awesome' nevű német biztonságtechnikai cég elemezte az Unitree Go1 négylábú robotkutyát, és egy dokumentálatlan hátsó kaput talált, amely lehetővé...

Már annyi szó esett az AI 2027-ről, hogy feltételezem, az Import AI olvasóinak többsége már olvasta. Ha mégsem, kérlek, tedd meg – ez egy jól kidolgozott,...

Három biztonságorientált kutató frissítette egy 2022-ben írt tanulmányát a renitenssé váló és rosszul összehangolt viselkedést mutató modern AI-rendszerek...

Az Open Philanthropy új ajánlattételi felhívást (RFP) tett közzé AI biztonsággal kapcsolatos kutatásokra, amelyre a következő öt hónapban nagyjából 40 millió...

Az OpenAI sajtócsapatának X-fiókját a közelmúltban hackerek törték fel, akik a platformot egy hamis kriptovaluta-átverés népszerűsítésére használták. A támadók...

Az MIT és a University of California Irvine kutatói azt vizsgálták, hogyan használhatók a nyelvi modellek hamis emlékek létrehozására. A kutatás rávilágít...

A Magic, egy rendkívül nagy kontextusablakkal rendelkező kódmodelleket építő startup, közzétett egy „AGI-felkészültségi irányelvet”. Ez az irányelv egy sor...

Az MIT kutatói bemutatták, hogyan tudnak egyszerű, úgynevezett „álcázási” technikákkal ricin és az 1918-as világjárványt okozó influenzavírus génszekvenciákat...

AI kutatók vázoltak fel egy tervet arra vonatkozóan, hogyan lehetne „garantáltan biztonságos” AI rendszereket építeni. A megközelítés lényege olyan rendszerek...

A Kínai Tudományos Akadémia és a JD Cloud kutatói közzétettek egy nyelvi modell jailbreak technikát, amelyet IntentObfuscatornak neveztek el. Ez a módszer...

A Center for AI Safety létrehozta a SafeBench elnevezésű versenyt, amely díjakkal jutalmazza azokat, akik új benchmarkokat (teljesítménymérő teszteket)...

A Google DeepMind kutatói bemutatták, hogyan lehet megmérgezni a Mixture of Experts (MoE) modelleket úgy, hogy egy támadó megváltoztassa a modell előrejelzését...

A rendszerszintű prompt szivárgásának észlelésére és megelőzésére a fejlesztők az adatbiztonságból ismert „kanári szó” (canary word) koncepcióját...

A fejlesztőknek úgy kell megtervezniük az LLM alkalmazásokat, hogy feltételezik: a sikeres eltérítés elkerülhetetlen. Ez robusztus hozzáférés-szabályozást és...

A nyelvi modellek és az azokkal működő alkalmazások feltörése egy végtelen tánc a védelmi mechanizmusok bevetése és az egyre zseniálisabb támadók között....

Az OpenAI rendkívül komolyan veszi az AI-biztonságot, és ezt mindenáron tudatni is akarja a világgal. Miután a múlt héten két tanulmányt is közzétettek az...

A Meta közzétette a Llama Guardot, egy Llama-2-re épülő, 7 milliárd paraméteres modellt, amelyet kifejezetten tartalommoderálásra terveztek. Ez a modell...

Az a lehetőség, hogy az AI fenyegetést jelenthet az emberiségre, már nem csak a sci-fi kategóriája. Számos jelentős alak, Elon Musktól az OpenAI...

A Trail of Bits nevű kutatási tanácsadó cég elvégezte az egyik legszélesebb körben használt videós objektumfelismerő rendszer, a YOLOv7 biztonsági...

Egy új kutatási tanulmány jelentős sebezhetőséget mutatott ki a nagy nyelvi modellek biztonsági összehangolásában. A kutatók megállapították, hogy hatékonyan...

A brit kormány közzétette a generatív AI technológiák biztonsági és védelmi értékelését az Egyesült Királyság AI biztonsági csúcstalálkozója előtt. A jelentés,...

A Princeton University és a Virginia Tech kutatói kimutatták, hogy egy biztonságos nyelvi modellből rendkívül egyszerűen és olcsón el lehet távolítani a...

Egy új tanulmány rávilágít, hogy a ChatGPT red-teaming folyamattal kialakított biztonsági korlátai megkerülhetőek, ha a modellt káros példákon végzett...

Az AI úttörője és a Google Brain korábbi kutatója, Geoffrey Hinton a 60 Minutes-nek adott interjújában elmondta, hogy a mai rendszerek hamarosan...

Egy új, Apollo Research nevű AI-kutató szervezet jött létre, amelynek célja az AI-vállalatok biztonságának növelése: a) nem biztonságos AI-viselkedések...

Simon Willison AI-szakértő szerint a prompt injection – amikor feltörik a rendszer biztonsági korlátait, hogy az a készítők szándékától eltérő kimeneteket...