Janas Leike'as, pirmaujantis dirbtinio intelekto tyrėjas, kuris anksčiau šį mėnesį atsistatydino iš „OpenAI“, prieš viešai sukritikavęs bendrovės požiūrį į DI saugumą, prisijungė prie „OpenAI“ konkurento „Anthropic“, kad vadovautų naujai „superlygiavimo“ komandai.
Įraše apie X Leike'as teigė, kad jo komanda daugiausia dėmesio skirs įvairiems AI saugos ir saugumo aspektams, ypač „mastelio keitimo priežiūrai“, „nuo silpno iki stipraus apibendrinimo“ ir automatizuoto derinimo tyrimams.
Šaltinis, susipažinęs su šiuo klausimu, pasakoja „TechCrunch“, kad Leike'as tiesiogiai atsiskaitys Anthropic vyriausiajam mokslo pareigūnui Jaredui Kaplanui ir kad Anthropic tyrėjai, šiuo metu dirbantys su keičiamo dydžio priežiūra – metodais, leidžiančiais nuspėjamais ir pageidaujamais būdais kontroliuoti didelio masto AI elgesį, – praneš. Leikei, kai sukasi Leike komanda.
Daugeliu atžvilgių Leike komanda „Anthropic“ savo misija skamba panašiai kaip neseniai ištirpusi „OpenAI“ komanda „Superalignment“. „Superalignment“ komanda, kuriai kartu vadovavo Leike, turėjo ambicingą tikslą per ateinančius ketverius metus išspręsti pagrindinius techninius iššūkius, susijusius su superinteligentiškojo dirbtinio intelekto valdymu.
„Anthropic“ dažnai bandė save laikyti labiau saugaus dėmesio nei „OpenAI“.
„Anthropic“ generalinis direktorius Dario Amodei buvo buvęs „OpenAI“ tyrimų viceprezidentas ir, kaip pranešama, išsiskyrė su „OpenAI“ po to, kai nesutarė dėl bendrovės krypties, o būtent dėl vis labiau komercinio OpenAI dėmesio. Amodei atsivedė daug OpenAI darbuotojų, įskaitant buvusį OpenAI politikos vadovą Jacką Clarką.