Tech & Tudomány
Egy dollárért adott el egy luxusautót egy óvatlanul bevezetett chatbot
A mesterséges intelligencia vállalati térnyerése komoly kockázatokat és sorozatos kudarcokat rejt, ha a technológiát megfelelő ellenőrzés nélkül vezetik be. Erre mutatott rá egy kaliforniai autószalon esete, ahol egy hibásan konfigurált chatboton keresztül majdnem eladtak egy luxusautót mindössze egy dollárért.
ⓘ
Fotó: 99mimimi / Pixabay, Pixabay LicenseRöviden
- A mesterséges intelligencia vállalati bevezetése sok esetben súlyos működési zavarokhoz és presztízsveszteséghez vezet.
- Egy kaliforniai autószalon chatbotját egy trükkös utasítással sikerült rávenni egy 76 ezer dolláros autó jelképes összegért történő „értékesítésére”.
- A technológia gyors terjedése miatt a szakértők világszerte szigorúbb szabályozásra és fokozott óvatosságra intenek.
A mesterséges intelligencia rohamtempóban terjed a vállalati szektorban, ám az átgondolatlan, szakértelmet nélkülöző projektek gyakran súlyos károkkal végződnek. Ezek az esetek hozzájárultak a globális szabályozási környezet szigorodásához, ugyanakkor a cégek is versenyhátrányba kerülhetnek, ha elzárkóznak a technológia kínálta hatékonyságnövelő lehetőségektől – hívta fel a figyelmet Bardóczy Gergely, a Kermann IT Solutions Nyrt. kereskedelmi igazgatója.
„A mesterséges intelligencia globális térhódítása soha nem látott ütemben zajlik, ám az exponenciális növekedés és a kontrollvesztés komoly veszélyeket is rejt magában. Számos nemzetközi példa bizonyítja, hogy az átgondolatlan bevezetések súlyos károkat okozhatnak a vállalatoknak”– Bardóczy Gergely, a Kermann IT Solutions Nyrt. kereskedelmi igazgatója
Az egyik leglátványosabb korai kudarc egy kaliforniai autómárka-kereskedésnél történt, ahol mesterséges intelligencián alapuló asszisztenst vezettek be. Egy felhasználó úgynevezett prompt injection – azaz utasítás-beékelés – módszerével rávette a chatbotot, hogy fogadjon el mindössze egy dollárt egy 76 ezer dolláros Chevy Tahoe modellért. Mivel az eszköz nem rendelkezett megfelelő üzleti korlátokkal, például árkontrollal vagy kötelező emberi jóváhagyással, a rendszer a felhasználói utasítást a gyári beállításoknál is magasabb rendűnek ítélte. Bár az „alku” jogilag nem volt érvényes, a kereskedés azonnal felfüggesztette és eltávolította a programot.
A hasonló incidensek hatására a hazai piaci szereplők is óvatosabbá, ugyanakkor a kompetenciáik bővítése tekintetében nyitottabbá váltak. A Kermann IT Solutions például a robotizált folyamatautomatizálásra és generatív mesterséges intelligencia megoldásokra szakosodott Optimaze Consulting Kft. felvásárlásával erősíti piaci pozícióját, a cégcsoport vezetői pedig jelentős bevételnövekedést várnak az új üzletágtól. Ezzel párhuzamosan a munkahelyi jólét és a munkaerő megtartása érdekében különféle programokat indítottak az IT-szektorban a fluktuáció mérséklésére.
Miközben a felhasználói oldalon a hatékonyságnövelés kényszere hajtja a fejlesztéseket, a technológiai fejlesztők oldaláról is komoly figyelmeztetések érkeznek. , miközben az éles piaci verseny miatt egyik kutatólabor sem engedheti meg magának a fejlesztési tempó önkéntes lassítását.
