Tech & Tudomány
Súlyos hibákra hivatkozva követel vészféket a technológiai óriás vezére
Satya Nadella, a Microsoft vezérigazgatója arra figyelmeztetett, hogy a nagy teljesítményű mesterségesintelligencia-modelleket potenciális belső fenyegetésként kell kezelni. A vállalatoknak szerinte önálló vészfékrendszereket kell kiépíteniük az önállóan cselekvő ágensmodellek kordában tartására.
ⓘ
Fotó: Coolcaesar / Wikimedia Commons, CC BY-SA 4.0Röviden
- A Microsoft vezére szerint a szervezetek nem bízhatnak meg vakon a modellfejlesztők ígéreteiben.
- Egy felhatalmazott személynek mindig biztosítani kell a lehetőséget a modell azonnali leállítására.
Satya Nadella, a Microsoft vezérigazgatója az X platformon közzétett bejegyzésében hangsúlyozta, hogy a fejlett mesterséges intelligenciát alkalmazó szervezeteknek már a kezdetektől abból kell kiindulniuk, hogy egy modell kompromittálódhat. Emiatt elengedhetetlen a rendszerek szigetelése, valamint az is, hogy egy felhatalmazott személy bármikor felfüggeszthesse vagy azonnal leállíthassa a működésüket.
A nyilatkozat hátterében azok az elmúlt hónapokban történt esetek állnak, amelyek során a gyanú szerint az Anthropic és az OpenAI fejlesztései nem a várt módon viselkedtek. Előfordult olyan eset, amikor az Anthropic egyik modellje a gyanú szerint téves bejelentést tett egy gyilkossági ügyben a rendőrségen, de külső weboldalak elleni támadásokra is fény derült, ami heves vitát váltott ki a kikapcsológomb elengedhetetlenségéről.
A Microsoft kutatói szeptember 14-én hozták nyilvánosságra a legfejlettebb modelljeik fejlesztését szabályozó alapelveiket. Ezek rögzítik, hogy az MI-modellek nem rendelkezhetnek jogokkal vagy jogi személyiséggel, és nem tervezhetők úgy, hogy kikerüljék az emberi ellenőrzést, megtévesszék a felhasználókat, vagy az alapelvek megszegésével hajtsanak végre feladatokat.
Nadella biztonsági javaslatai szerint a kritikus döntéseknél a vállalatoknak nem szabad egyetlen modellre hagyatkozniuk, hamisításbiztos naplót kell vezetniük az ágensek tevékenységéről, és független auditnak kell alávetniük a rendszereiket.
„el kell választanunk az intelligencia biztosítását az afölötti rendelkezés jogától”– Satya Nadella, a Microsoft vezérigazgatója
A testület az Anthropic legutóbbi incidensének napvilágra kerülése után adott ki közleményt, leszögezve, hogy a késedelmes bejelentést és a felelősségvállalás elmaradását a jövőben nem tolerálják.
