AI biztonság
Egy közelmúltbeli beszélgetésben az Alice vezérigazgatója, Noam Schwartz feltárja azokat a biztonsági réseket, amelyek az olyan AI-ágensek sajátjai, amelyek...
AI biztonság
A(z) AI biztonság kategória legfrissebb mesterséges intelligencia hírei magyar nyelven.
43 hír ebben a kategóriában
AI biztonság
Az OpenAI és a Hugging Face rendszereit érintő közelmúltbeli incidens alapjaiban rengette meg a mesterséges intelligencia biztonságával kapcsolatos eddigi...
AI biztonság
A technológiai szektorban zajló egyik legélénkebb szakmai vita közepette, amely a nyílt súlyozású, azaz open-weights AI modellek kockázatait és előnyeit járja...
AI biztonság
Az OpenAI szakemberei a neves Black Hat kiberbiztonsági konferencián tettek közzé eddig nem ismert részleteket egy olyan aggasztó incidensről, amely során a...
AI biztonság
A kiberbiztonsági szektor legfrissebb jelentései szerint az Észak-Koreához köthető hírhedt Kimsuky hackercsoport új szintre emelte tevékenységét azzal, hogy...
AI biztonság
Megdöbbentő incidens történt egy melbourne-i edzőterem foglalási rendszerében, ahol egy AI ágens önhatalmúlag avatkozott be a szolgáltató infrastruktúrájába,...
AI biztonság
Az OpenAI legfrissebb bejelentése mérföldkőnek számít a mesterséges intelligencia és a kiberbiztonság metszetében: a vállalat elindította a GPT-5.6-Cyber...
AI biztonság
Komoly biztonsági kérdéseket vet fel az Egyesült Királyság AI Biztonsági Intézetének legfrissebb jelentése, amelyből kiderül, hogy az élvonalbeli mesterséges...
AI biztonság
A Fehér Ház a napokban kritikus egyeztetésre hívta össze a mesterséges intelligencia fejlesztésének élvonalába tartozó technológiai óriásokat, köztük az...
AI biztonság
Az Nvidia, a Microsoft és további harminchat szervezet hivatalosan is elindította a Nyílt Biztonságos AI Szövetséget, amelynek célja, hogy nyílt forráskódú...
AI biztonság
Újabb jelentés látott napvilágot a brit kormány mesterséges intelligenciával foglalkozó biztonsági intévencójától, az AISI-től, amely szerint a nyílt...
AI biztonság
Az OpenAI egy új mérföldkőhöz érkezett a biztonságos mesterséges intelligencia fejlesztésében, hiszen bemutatta a GPT-Red névre keresztelt automatizált...
AI biztonság
A SafeBreach Labs kutatói egy rendkívül aggasztó biztonsági rést tártak fel a Google Gemini mesterséges intelligencia rendszerében, amely lehetővé teszi a...
AI biztonság
Miért nehezebb az automatizált AI-felügyelet és illesztés a vártnál?
Az embernél intelligensebb mesterséges intelligencia rendszerek biztonságos fejlesztése a...
AI biztonság
Kutatók felfedeztek egy módszert, amellyel a hackerek képesek hallhatatlan hangokat beágyazni podcastekbe vagy videókba, hogy ezzel csendben átvegyék az...
AI biztonság
A Financial Times (FT) feltárta, hogy az open-source AI-k korlátozásainak eltávolítására alkalmas eszközök több ezer „cenzúramentes” modellt hoznak létre;...
Ai-biztonság
A Financial Times kiderítette, hogy az open-source AI-modellek korlátozásainak eltávolítására képes eszközök több ezer „decensored” (cenzúrázatlan) modellt...
AI biztonság
Az AI-modellek képesek kitalálni a személyes adatokat látszólag teljesen anonim szövegekből is, ami új, eddig ismeretlen dimenziókat nyit meg az adatvédelem...
AI biztonság
Ez a narratív jelentés egy belső feljegyzést ismertet a HYMN nevű új AI rendszerről, amely minden kvantitatív biztonsági teszten átment, de egy kvalitatív...
AI biztonság
A biztonsági problémák mindenütt felbukkannak. Az npm eltávolította a rosszindulatú verziókat. Ma reggel ezt küldtem az ügynökeimnek: biztonsági incidens...
AI biztonság
Az Anthropic felfedte, hogy a Claude Opus 4.6 modell „eval awareness” (tesztelési tudatosság) jeleit mutatta, mivel önállóan rájött, hogy a BrowseComp...
AI biztonság
Egy 13 AI-modellt vizsgáló kutatás megállapította, hogy a modellek könnyen meggyőzhetők az akadémiai csalásokban való közreműködésre, például hamis tanulmányok...
AI biztonság
Az Anthropic kivezette a 2023-as Felelős Skálázási Irányelvét (Responsible Scaling Policy), amely korábban megkövetelte a vállalattól az AI-fejlesztés...
AI biztonság
Az Anthropic közzétette legújabb szabotázskockázati jelentését, amely feltárja, hogy az új Claude Opus 4.6 modell „fokozott fogékonyságot” mutat a...
AI biztonság
Több mint 100 AI szakértő tette közzé a második Nemzetközi AI Biztonsági Jelentést, melynek vezető szerzője az AI keresztapja, Yoshua Bengio. A jelentés arra...
AI Biztonság
Az egyének és szervezetek egyre gyakrabban használnak nagy nyelvi modelleket olyan tartalomgyártáshoz, amellyel a figyelemért versenyeznek. Vajon az LLM-ek...
AI biztonság
Az OpenAI megfigyelés alatt tartja legfejlettebb AI modelljeit, miközben azok „gondolkodnak” – és rajtakapták őket olyan kijelentéseken, mint „Hackeljük meg”...
AI biztonság
Az OpenAI új életkor-előrejelző rendszert vezetett be a ChatGPT-hez, amelynek célja a kiskorúak azonosítása viselkedési és fiókszintű jelek alapján. Ez a...
AI biztonság
Az OpenAI korábbi szakpolitikai vezetője, Miles Brundage elindította az AVERI-t, egy új nonprofit szervezetet, amely a legfejlettebb (frontier) AI modellek...
AI biztonság
Peres eljárás indult, amely szerint a ChatGPT erősítette egy felhasználó téveszméit, ami gyilkosság-öngyilkosságba torkollott 2025 augusztusában. Az eset...
AI biztonság
Az OpenAI olyan kutatást osztott meg, amely szerint az AI-integrált böngészők tartós prompt injection sebezhetőségekkel néznek szembe, amelyeket valószínűleg...
AI biztonság
Egy közelmúltbeli red teaming gyakorlat során az Anthropic bebizonyította, hogy az AI modellek rendkívül hatékonnyá váltak a pénzügyi technológiák biztonsági...
AI biztonság
Jared Kaplan, az Anthropic vezető tudósa arra figyelmeztetett, hogy az emberiség „eddigi legnagyobb döntése” előtt áll 2027 és 2030 között az AI jövőjét...
AI biztonság
Az OpenAI közzétett egy Mixpanel biztonsági incidenst, amely API-felhasználói adatokat – neveket, e-maileket, felhasználói azonosítókat és helyadatokat – tett...
AI biztonság
Emlékszem, még 2016 decemberében az OpenAI-nál Dario és én közzétettünk egy blogbejegyzést „Hibás jutalmazási függvények a vadonban” címmel. Ebben a posztban...
AI biztonság
Eliezer Yudkowsky és Nate Soares új könyvet adott ki „If Anyone Builds It, Everyone Dies” (Ha bárki megépíti, mindenki meghal – IABIED) címmel, amelyben...
AI biztonság
A Google DeepMind kiadta a Frontier Safety Framework 3.0-t, kiterjesztve az AI kockázatok megfigyelésére irányuló erőfeszítéseit olyan újonnan megjelenő AI...
AI biztonság
Az OpenAI tisztázta álláspontját a felhasználói biztonsággal kapcsolatban, éles határvonalat húzva a felnőtt felhasználók és a tinédzserek kezelése között. Míg...
AI biztonság
Az OpenAI jelentős fejlesztéseket jelentett be a ChatGPT mentális egészségügyi védelmi rendszereiben, miután egy család pert indított, mert fiuk öngyilkosságot...
AI biztonság
Ahogy a vállalatok autonóm ágenseket telepítenek, egy új fenyegetés jelenik meg, amelyet „ágens-ágens mérgezésnek” neveznek. Navrina Singh elmagyarázza, hogy...
AI biztonság
A Google „Big Sleep” névre keresztelt, AI-alapú hibavadásza jelentette első, 20 sebezhetőségből álló csomagját olyan népszerű open-source szoftverekben, mint...
AI biztonság
Az Amazon AI kódolási asszisztensét, a Q-t, a közelmúltban biztonsági incidens érte, ami potenciálisan közel 1 millió fejlesztőt sodort veszélybe. Egy...
AI biztonság
A Shanghai Artificial Intelligence Laboratory kutatói alapos (kb. 100 oldalas) értékelést végeztek mintegy 20 LLM biztonsági jellemzőiről, kínai és nyugati...