Az OpenAI konfliktusai miatt válságban az AI biztonság

-

Néhány nappal azután, hogy az OpenAI bejelentette az új AI biztonsági bizottság megalakulását, a korábbi igazgatósági tagok, Helen Toner és Tasha McCauley nyilvánosan megvádolták Sam Altman vezérigazgatót, hogy a profitot a felelős AI-fejlesztés elé helyezte, a kulcsfontosságú fejlesztéseket eltitkolta az igazgatóság elől, és mérgező környezetet alakított ki a vállalatnál.

Az OpenAI jelenlegi igazgatótanácsi tagjai, Bret Taylor és Larry Summers azonban ma visszavágtak Altman védelmében, és visszautasították a vádakat, mondván, hogy Toner és McCauley egy lezárt ügyet próbálnak újra megnyitni.

A vita a The Economistban megjelent két tanulmányban bontakozott ki.


Kriptovalutát vennél vagy eladnál? Próbáld ki a CoinCharlie-t, Magyarország legújabb kriptováltóját!


A korábbi igazgatótanácsi tagok elsőként lőttek, arra hivatkozva, hogy az OpenAI igazgatótanácsa nem volt képes megfékezni a vezérigazgatót.

„Tavaly novemberben, az önszabályozó struktúra megmentése érdekében az OpenAI igazgatótanácsa elbocsátotta vezérigazgatóját” – írta május 26-án Toner és McCauley – akik szerepet játszottak Altman tavalyi leváltásában.

„Az OpenAI konkrét esetében, tekintettel az igazgatótanácsnak a független felügyelet biztosítására és a vállalat közérdekű küldetésének védelmére vonatkozó kötelességére, kiállunk az igazgatótanács intézkedése mellett.”

Nem csitulnak a kedélyek

A közzétett válaszukban Bret Taylor és Larry Summers – akik azt követően csatlakoztak az OpenAI-hoz, hogy Toner és McCauley elhagyta a vállalatot – megvédték Altmant, elutasították a vádakat, és megerősítették a biztonság és az irányítás iránti elkötelezettségét.

„Nem fogadjuk el Toner asszony és McCauley asszony állításait az OpenAI-nál történtekkel kapcsolatban” – írták.

„Sajnáljuk, hogy Toner asszony ahelyett, hogy továbblépne, továbbra is olyan kérdéseket vizsgál újra, amelyeket a WilmerHale által vezetett felülvizsgálat alaposan feltárt.”

Bár Toner és McCauley nem hivatkozott a vállalat új biztonsági és védelmi bizottságára, levelükben megismételték, hogy az OpenAI nem tudja hitelesen ellenőrizni magát és vezérigazgatóját.

„Tapasztalataink alapján úgy véljük, hogy az önkormányzatiság nem tud megbízhatóan ellenállni a profitösztönzők nyomásának” – írták.

„Úgy érezzük továbbá, hogy a vállalathoz való visszatérése óta bekövetkezett fejlemények – beleértve az igazgatótanácsba való visszahelyezését és az AI biztonságra összpontosító vezető tehetségek távozását – rosszat sejtetnek az OpenAI önkormányzati kísérletére nézve.”

A volt igazgatótanácsi tagok szerint Altman „régóta fennálló viselkedési mintái” miatt a vállalat igazgatótanácsa képtelen volt megfelelően felügyelni „a kulcsfontosságú döntéseket és a belső biztonsági protokollokat”.

Altman jelenlegi kollégái azonban a vállalat által megrendelt, a konfliktus független felülvizsgálatának következtetéseire hivatkoztak.

„A felülvizsgálat megállapításai elutasították azt az elképzelést, hogy bármilyen AI biztonsági aggály tette szükségessé Altman úr leváltását” – írták – „valójában a WilmerHale megállapította, hogy az előző igazgatótanács döntése nem a termékbiztonsággal vagy a fejlesztés ütemével, az OpenAI pénzügyeivel vagy a befektetőknek, ügyfeleknek vagy üzleti partnereknek tett nyilatkozataival kapcsolatos aggodalmakból fakadt.”

Talán még aggasztóbb, hogy Toner és McCauley azzal is vádolta Altmant, hogy mérgező vállalati kultúrát táplál.

„Több felsővezető bizalmasan komoly aggodalmakat osztott meg az igazgatótanáccsal, mondván, hogy szerintük Altman úr „a hazugság mérgező kultúráját” ápolta, és „olyan viselkedést tanúsított, amelyet pszichológiai visszaélésként lehet jellemezni”.”

Taylor és Summers azonban cáfolta állításaikat, mondván, hogy Altmant nagyra becsülik az alkalmazottai.

„Hat hónapos, szinte napi szintű kapcsolatunk során Altman urat minden lényeges kérdésben rendkívül közlékenynek találtuk, és következetesen kollegiálisnak a vezetői csapattal” – mondták.

Taylor és Summers azt is elmondta, hogy az Altman elkötelezett a kormány irányában a mesterséges intelligencia fejlesztésével járó kockázatok mérséklése érdekében.

A nyilvános oda-vissza csatározás az OpenAI számára egy viharos korszak közepette történt, amely a rövid ideig tartó leváltásával kezdődött.

A vállalat megszüntette a szupervállalkozói csapatát, és kiderült, hogy gyalázkodó NDA-k akadályozták a korábbi alkalmazottakat abban, hogy kritizálják a vállalatot.

Az OpenAI megállapodást kötött a Védelmi Minisztériummal a GPT technológia katonai alkalmazásokban történő felhasználására.

Az OpenAI fő befektetője, a Microsoft eközben a hírek szerint megállapodásokat kötött a ChatGPT-vel kapcsolatban is.

Veszélyben az AI biztonság?

A Toner és McCauley által megosztott állítások összhangban vannak az OpenAI korábbi kutatóinak nyilatkozataival, akik elhagyták a vállalatot.

Jan Leike azt mondta, hogy „az elmúlt években a AI biztonsági kultúra és a folyamatok [az OpenAI-nál] háttérbe szorultak a fényes termékek mögött”, és hogy az összehangolási csapata „széllel szemben vitorlázott”.

Taylor és Summers részben foglalkozott ezekkel az aggályokkal, hivatkozva az új AI biztonsági bizottságra és annak felelősségére, hogy „ajánlásokat tegyen a teljes igazgatótanácsnak a kritikus biztonsági és védelmi döntésekkel kapcsolatos ügyekben az összes OpenAI-projektre vonatkozóan”.

Toner a közelmúltban tovább fokozta az Altman átláthatóságának hiányára vonatkozó állításait.

A precíziós kereskedés itt kezdődik, Útmutató a TradingView sikeres használatához!

„Hogy érzékeltessem, milyen dologról beszélek, amikor a ChatGPT 2022 novemberében megjelent, az igazgatótanácsot nem tájékoztatták előre” – tárta fel a The TED AI Show podcastban a hét elején. „A ChatGPT-ről a Twitteren értesültünk”.

Azt is elmondta, hogy az OpenAI igazgatótanácsa nem tudta, hogy Altman az OpenAI Startup Fund tulajdonosa, annak ellenére, hogy állítása szerint nem volt pénzügyi érdekeltsége az OpenAI-ban.

Az alap az igazgatótanács tudta nélkül fektette be a partnerektől, például a Microsofttól kapott milliókat más vállalkozásokba. Altman tulajdonjoga az alapban áprilisban megszűnt.

Kövesd a Kriptoworld-öt a Google News-on

Olvastad már? Alig kér kezelési díjat a Franklin Templeton az ETH-ETF után

SZERETNÉD MEGKAPNI LEGFRISSEBB HÍREINKET? IRATKOZZ FEL HÍRLEVELÜNKRE!


Tájékoztatás: A kriptoworld.hu oldalon található információk és elemzések a szerzők magánvéleményét tükrözik. A jelen oldalon megjelenő írások, cikkek nem valósítanak meg a 2007. évi CXXXVIII. törvény (Bszt.) 4. § (2). bek 8. pontja szerinti befektetési elemzést és a 9. pont szerinti befektetési tanácsadást. Bármely befektetési döntés meghozatala során az adott befektetés megfelelőségét csak az adott befektető személyére szabott vizsgálattal lehet megállapítani, melyre a jelen oldal nem vállalkozik és nem is alkalmas. Az egyes befektetési döntések előtt éppen ezért tájékozódjon részletesen és több forrásból, szükség esetén konzultáljon befektetési tanácsadóval!

A cikkekben megjelenő esetleges hibákért téves információkból eredendő anyagi károkért a kriptoworld.hu felelősséget nem vállal.

Legfrissebb bejegyzéseink

Breaking: Joe Biden hivatalosan is visszalép a 2024-es elnökválasztási versenytől

Joe Biden elnök vasárnap bejelentette, hogy befejezi újraválasztási kampányát. A döntés hátterében a demokraták körében növekvő aggodalmak állnak, hogy a 81 éves politikus nem tudna második...

3, egy kávéscsészénél olcsóbb érme, amelyek 2024-ben megváltoztatják az életünket ☕

Vendégbejegyzés A kriptopiac nyugalomban van a várva várt bikafutás előtt. Az Altcoinok jelenleg jó belépési ponton vannak, de máris emelkednek, és bármelyik pillanatban robbanásra készen állnak. A...

Nagyon optimista Bitcoin árelőrejelzés a Mechanism Capital részéről

A geopolitikai erők kezdenek megmozdulni a Bitcoin körül, egy elemző szerint bármi lehetséges a digitális valuta árfolyamát illetően. A Bitcoin potenciálisan elérheti az 1 millió dollár...

A Solana egy 900%-os emelkedést tartogathat 1000 dollárig, de CSAK HA…

A július 15-21. hét folyamán a Solana (SOL) visszaszerezte a 150 dollárt, majd magasabbra emelkedett, és a 173 dolláros cikkírásakor 17% -ot tett ki. A...

Legolvasottabb híreink

Vendégbejegyzések

SZERETNÉD MEGKAPNI LEGFRISSEBB HÍREINKET? IRATKOZZ FEL HÍRLEVELÜNKRE!