Документацията, подадена към регулаторите, разкрива оперативна реалност, лишена от медийния възторг на технологичните презентации. Зад фразата за "рекурсивно самоусъвършенстване" стои много проста физическа и логистична диалектика: автоматизиране на самия процес по създаване на алгоритми. В момента лабораторията на Anthropic разчита на хиляди специализирани процесори, денонощно охлаждане и огромен финансов ресурс, за да тренира всеки следващ модел от серията Claude. Когато самите модели започнат да оптимизират архитектурата си, да откриват грешки в собствения си код и да проектират нови невронни структури, традиционният цикъл на разработка се чупи. Инженерите на компанията вече използват текущите версии на софтуера за автоматизиране на изследователската си дейност, но документите потвърждават нещо неудобно – при минали тестове екипите са установили неочаквани скокове във възможностите на системите едва след приключване на пълния тренировъчен цикъл. Това означава, че математическият модел развива свойства, които не са били предварително планирани в архитектурното задание.
Поддръжниците на строгите регулации виждат в това сценарий, при който софтуерният ресурс излиза от рамките на заложените защитни протоколи. От другата страна са инвеститорите и силициевите оптимисти, за които подобна рекурсия е единственият начин да се оправдаят колосалните капиталови разходи за дейта центрове, чиято консумация на енергия вече се съревновава с тази на малки държави. Ръководството на Anthropic изглежда блокирано между тези два полюса. Във вътрешния документ "Политика за отговорно мащабиране" (Responsible Scaling Policy) са добавени нови точки, които предупреждават потенциалните купувачи на акции, че темпото на напредък може да надхвърли капацитета на инженерите за своевременен физически надзор.
Пролуките в контрола и инженерните лимити
Твърдението, че дадена невронна мрежа може да се "самоподобри", звучи като абстракция, докато не се преведе на езика на инфраструктурата. В класическото програмиране отстраняването на грешки и оптимизацията са бавни, механични процеси, ограничени от работните часове на човешкия мозък. Когато алгоритъмът започне сам да генерира и тества хипотези, темпото се определя единствено от наличната изчислителна мощност и пропускателната способност на мрежата. Документите на Anthropic показват, че лабораторията активно използва модели за автоматизирано писане на код и киберсигурност, но признава, че изследователите не са успели своевременно да разпознаят постепенното натрупване на нови функционалности в процеса на разработка.
Това разминаване между проектните очаквания и реалното поведение на невронната мрежа не е новост в архивите на компютърните науки. В ранните изследвания на изкуствения неврон се приемаше, че мащабирането на данните води до линейно подобрение. Данните от терена обаче показват нелинейни прагове – момент, в който натрупването на параметри води до внезапно появяване на способности за решаване на логически задачи, които не са били заложени в началния набор от инструкции. Ако такъв скок настъпи по време на рекурсивно самообучение, човешкият екип остава в позицията на пасивен наблюдател, който анализира резултатите post factum.
За да смекчи тези опасения пред регулаторните органи, Anthropic обещава да запази задължително човешко участие във всеки ключов етап от архитектурните промени. Обмисля се официално изменение на вътрешните правила, което да гарантира, че нито един нов модел няма да бъде пуснат в експлоатация без ръчна проверка от специалисти. Въпросът, който остава без отговор във финансовия проспект, е физически: как точно шепа инженери ще анализират и верифицират милиарди нови оперативни връзки, генерирани от машина за броени часове?
