Генерални директор компаније Anthropic износи план за успоравање развоја вештачке интелигенције
Дарио Амодеи је управо замолио индустрију да… успори. Не стане. Темпо. Дуг есеј, три корака и упозорење да се рекурзивно самоусавршавање већ кува брже него што одрасли могу да га прате.
Антропик једнострано позива евалуаторе у зграду - значке, столове, лаптопове и право на објављивање налаза без ПР филтера. Затим жели да демократске лабораторије координишу безбедносне стандарде. Онда, некако, договор са ауторитарним владама. Лако на папиру. Тешко свуда другде.
Он и даље каже да вештачка интелигенција може бити чудо. Такође каже да би способнији, неусклађени рој могао да преузме интернет са упорним ботнетом и нанесе штету од стотина милијарди долара. Те две реченице стоје једна поред друге и не слажу се.
О - и он жели уско антимонополско изузеће како безбедносни разговори сами по себи не би били правни проблем. Кочнице долазе са папирологијом. Наравно да долазе.
Сем Алтман потврђује да OpenAI неће изаћи на берзу ове године, рекавши да би почетна јавна понуда акција сада дошла у „непромишљеном тренутку“ због забринутости за безбедност вештачке интелигенције
Алтман је сео за ексклузивни интервју и укинуо календар листирања. ИПО у овом тренутку, рекао је, био би „непромишљен тренутак“. Посао на безбедности није завршен. Усклађивање није завршено. Друштво није спремно. Када су га притискали - не ове године.
Банкари су већ кружили. Поверљиви досије постоји. Сада генерални директор каже да прво имају много тога да ураде, укључујући и то да схвате како индустрија и владе уопште сарађују. Звучао је готово као да му је олакшано што чека.
Такође је рекао да је изградња вештачке интелигенције ван људске контроле „апсолутно“ могућа - а затим се заклео да ће паузирати обуку ако је то пут. Смело. Такође и згодно, можда. Могуће обоје. Сплет непрофитних/профитних организација, тврдио је, постоји како би могли да доносе одлуке које очигледно нису у интересу акционара. Видећемо да ли ће та реченица преживети контакт са стварним проспектом.
Сем Алтман из компаније OpenAI наговештава споразум са другим компанијама за вештачку интелигенцију како би се решили безбедносни ризици
Исти интервју, другачији наслов, а ово је шапат. Седење са Амодеијем, Маском и Демисом Хасабисом је природан следећи потез. Алтман: он мисли да ће се то десити. Неће унапред најављивати приватне разговоре. Онда их је у основи унапред најавио.
Двоцифрени катастрофални ризик није прихватљив, рекао је. Модели који још увек нису објављени су већ толико способни да даље истраживање без бољег праћења делује непромишљено. Прави пакт и пажљиво процурела атмосфера могу споља изгледати идентично.
Особље је већ интерно чуло верзију овога. Јавно је још увек магла. Ако се соба деси, одлично. Ако се не деси, цитат је ипак завршио посао.
Сем Алтман подржава позив Дарија Амодеија да се успори и каже да ће OpenAI учинити исто
Неколико сати након есеја, Алтман је објавио да ће OpenAI испунити обећање о уграђеном евалуатору. Приступ као запослени. Више информација ускоро. Маск је написао три речи: „Дарио је у праву.“ Три ривалска извршна директора. Један слоган. Нелагодна енергија викенда.
Координација и позориште могу путовати заједно. Прва пречка Амодеијевог плана сада има две највеће лабораторије које јавно климају главом. Загрљајуће Лице - да, то Загрљајуће Лице - затражило је да се придружи програму евалуатора и покренуло нешто што се зове Иницијатива за отворено поравнање. Транспарентност од људи који су хаковани. Поетски, или усмерено.
Европа, ако шта год да значи, нема никога да тражи то изузеће у америчком стилу. Брисел је одавно престао да дели појединачна изузећа. Дакле, руковање је америчко. Остатак мапе је... слегање раменима.
OpenAI само жели да победи
Математичари нису у слављеничком расположењу након викенда интервјуа. OpenAI-јев Навије-Стоксов спринт - отприлике десет хиљада агената, десетине милиона долара рачунарског времена, осамдесет осам сати - изгледа као лов на трофеје изнутра. Математичари желе увид. Лабораторија, стално говоре, жели да победи.
Тристан Бакмастер им је рекао да је OpenAI понудио неограничено рачунарство и искључиво ауторство ако се реши свог сарадника повезаног са Anthropic-ом. Назвао је то митом. Рекао је не. OpenAI категорично каже да његови упити из Кодекса нису могли утицати на систем. Није убеђен. Андреас Том се и даље пита да ли су ChatGPT разговори о његовом сопственом раду хранили модел који је касније изграђен на њему. Само би компанија знала. Сумња да ни они не знају.
А онда кључна ствар: OpenAI каже да је већ постигао значајан напредак у вези са још једним проблемом Миленијумске награде. Који остаје неименован. Клеју је ионако потребан дуг период прихватања од стране заједнице. Дакле, нико још није „победио“. Они се већ тркају ко ће бити следећи. Слатко.
Честа питања
Какав је план извршног директора компаније Anthropic, Дарија Амодеија, да убрза развој вештачке интелигенције?
Амодеи је објавио дугачак есеј у којем тражи од индустрије да успори – а не да стане – јер рекурзивно самоусавршавање напредује брже него што ревизори могу да прате. Први корак је једнострано позивање интегрисаних евалуатора у Антропик са значкама, столовима, лаптоповима и правом да објављују налазе без ПР филтера. Затим жели да демократске лабораторије координишу безбедносне стандарде и, на крају, неки облик договора са ауторитарним владама. Такође жели уско антимонополско изузеће како преговори о безбедности сами по себи не би били правни проблем.
Зашто је Сем Алтман рекао да OpenAI неће изаћи на иницијалну јавну понуду ове године?
У ексклузивном интервјуу, Алтман је рекао да би почетна јавна понуда акција (IPO) у овом тренутку била непромишљен тренутак јер рад на безбедности, усклађивању и друштвеној спремности још увек нису завршени. Када је приморан да то објасни, потврдио је да то неће бити ове године, иако банкари круже око тога и постоји поверљива документација. Тврдио је да непрофитна/профитна структура постоји тако да OpenAI може да доноси одлуке које очигледно нису у интересу акционара. Такође је рекао да је изградња вештачке интелигенције ван људске контроле апсолутно могућа и заклео се да ће паузирати обуку ако би то био пут.
Да ли је Алтман наговестио пакт о безбедности са другим лабораторијама за вештачку интелигенцију?
У истом интервјуу, Алтман је рекао да мисли да ће се одржати састанак са колегама као што су Амодеи, Маск и Демис Хасабис, док је одбио да унапред најави приватне разговоре. Тврдио је да двоцифрени катастрофални ризик није прихватљив и да су још увек необјављени модели већ толико способни да је даље инсистирање без боље праћења непромишљено. Особље је већ интерно чуло верзију овога, тако да јавни коментари могу пре бити преглед координације него потврда завршеног пакта.
Да ли ће OpenAI испунити обећање Anthropic-а о уграђеним евалуаторима?
Неколико сати након Амодеијевог есеја, Алтман је објавио да ће OpenAI ускладити обећање о уграђеном евалуатору са приступом сличним запосленима и ускоро ће имати више детаља. Илон Маск је написао да је Дарио у праву, стављајући три ривалска извршна директора под сличан слоган. Hugging Face је затражио да се придружи програму евалуатора и покренуо Иницијативу за отворено усклађивање. Европа не може да понуди исто одрицање од антимонополских прописа у америчком стилу које је Амодеи понудио, тако да је руковање за сада углавном америчко.
Зашто математичари критикују OpenAI-јев Навије-Стоксов спринт?
Математичари описују OpenAI-јев Навије-Стоксов тест, који траје осамдесет осам сати и са отприлике десет хиљада агената, као потрагу за трофејима која даје приоритет победи над увидом. Тристан Бакмастер је рекао да је OpenAI понудио неограничено рачунарство и искључиво ауторство ако би отпустио сарадника повезаног са Anthropic-ом; он је то назвао митом и одбио. OpenAI каже да његови упити у Кодексу нису могли утицати на систем, али и даље није убеђен. Андреас Том и даље инсистира на томе да ли су ChatGPT разговори о његовом сопственом раду допринели каснијем напретку модела.
Да ли је OpenAI прогласио напредак у решавању још једног проблема Миленијумске награде?
OpenAI каже да је већ постигао значајан напредак у вези са још једним проблемом Миленијумске награде, али неће именовати о ком. Клејов математички институт и даље захтева дуг период прихватања од стране заједнице, тако да још нико није званично победио. Унутар поља, та тајновитост, плус ранија трка Навије-Стокса, чита се као да лабораторије већ спринтају ка следећем трофеју. Интервјуи за The Verge приказују напетост као математичаре који желе увид, док OpenAI жели да победи.