Какво казва увеличението на заплатата на Pramaana на техническите директори за следващата вълна от инвестиции в корпоративния изкуствен интелект

Когато Pramaana Labs приключиха семенен рунд на стойност 27 милиона долара за изграждане на официална инфраструктура за верификация на системи с изкуствен интелект, водещата цифра беше забележителна, но не и най-поучителната част от историята. Семенните рундове с такъв мащаб, насочени специално към проблема за доказване на това какво ще прави и какво не една система с изкуствен интелект, представляват измерима промяна в това къде се концентрира капиталът в ранен етап. През последните три години доминиращата инвестиционна теза в корпоративния изкуствен интелект беше способността: кой базов модел може да разсъждава по-задълбочено, да генерира по-бързо или да обработва по-дълъг контекст. Тази теза не е изоставена, но паралелна теза сега привлича сериозни средства заедно с нея. Инвеститорите започват да оценяват разликата между това, което системите с изкуствен интелект могат да правят, и това, което предприятията всъщност могат да внедрят, а официалната верификация се намира директно в тази празнина.

Защо само инвестициите в капацитет са забавили внедряването в предприятията

Моделът е достатъчно последователен в различните индустрии, за да се третира като структурен, а не като анекдотичен. Предприятията провеждат пилотни проекти, демонстрират възможности и след това се сблъскват с пречки пред внедряването, които нямат нищо общо с производителността на модела. Пречките са очевидни: правните екипи не могат да одобрят системи, чиито граници на решения са недокументирани, функциите за съответствие не могат да одитират резултати, които не могат да бъдат одитирани спрямо определена спецификация, а инженерните екипи не могат да определят SLA за системи, чиито режими на отказ са вероятностни и непълно характеризирани. Възможностите, които моделът демонстрира в пилотна среда, са реални, но не са достатъчни за одобряване на производствения процес. Резултатът е голяма популация от проекти с изкуствен интелект, които демонстрират стойност, но все още не се доставят – динамика, която разгледахме подробно в нашата работа върху това защо проектите за корпоративни агенти спират преди производствения процес.

Допълнителна статия към по-широката ни работа върху блокерите за внедряване на корпоративен ИИ. Вижте „Защо повечето проекти за корпоративни ИИ агенти никога не напускат пилотния етап“ за рамка, обхващаща блокерите за управление, измерването на възвръщаемостта на инвестициите и архитектурните решения, които разделят пилотните от производствените внедрявания.

Какво всъщност предоставя формалната проверка

Формалната верификация, в контекста на системите с изкуствен интелект, се отнася до използването на техники за математическо доказване, за да се установят гаранции за поведението на системата при определени условия. Подходът произхожда от хардуерното и софтуерно инженерство, критично за безопасността, където се използва за проверка на дизайна на чипове и системите за управление на авиониката в продължение на десетилетия. Приложен към изкуствения интелект, той разглежда специфичен клас проблеми: не дали даден модел се представя добре средно, а дали може да се докаже, че се държи в рамките на определени граници в цялото входно разпределение или в определено подмножество от него. Това е категорично различно от статистическото тестване, което взема проби от поведението и прави извод за надеждност от производителността на извадката. Система, която преминава 99,9% от тестовите случаи, все още има неопределена повърхност на отказ; формално потвърдено свойство е валидно без изключение в рамките на заявения си обхват. За регулираните индустрии това разграничение е разликата между аргумент за съответствие и доказателство за съответствие.

Регулаторният натиск, създаващ търсене

Времето на вливане на капитал в инфраструктурата за проверка не е случайно. Законът на ЕС за изкуствения интелект (ИИ), който влезе в сила през август 2024 г., установява задължения за съответствие за високорискови системи с ИИ, които включват изисквания за техническа документация, регистриране, човешки надзор и доказуема точност и надеждност. Категориите с висок риск обхващат кредитно оценяване, решения за наемане на работа, управление на критична инфраструктура и няколко други, които представляват основни случаи на употреба на ИИ в предприятията. Изпълнението на тези задължения чрез последващо тестване е възможно по принцип, но скъпо и правно нестабилно, тъй като доказателствата за безопасност, базирани на тестове, винаги са обект на възражението, че остават непроверени дистрибуции. Доказателствата, базирани на проверка, са структурно по-силни, защото са ограничени по обхват, а не по извадка. Инвеститорите, подкрепящи Pramaana, отчасти ценообразуват разходите за съответствие, които предприятията все повече ще трябва да възлагат на специализирани инструменти, вместо да изграждат вътрешно.

Какво сигнализира моделът на финансиране за разпространението на доставчици

Увеличението на средствата в Pramaana не е изолирано събитие. То е част от по-широк модел на движение на капитал към това, което може да се нарече инфраструктура за доверие: инструменти, които адресират обяснимост, одитни следи, поведенчески гаранции и работни процеси в управлението, а не възможности за сурови модели. Когато дадена категория привлече начално финансиране в този мащаб, типичната траектория през следващите 24 до 36 месеца включва бързо разпространение на доставчици, тъй като съседни екипи идентифицират съседни проблеми и се противопоставят на същата теза. CTO-тата, които чакат категорията да се консолидира, преди да оценят доставчиците, ще се окажат в преговори от по-слаба позиция, защото предприятията, които са се ангажирали рано, ще са оформили своите критерии за обществени поръчки, ще са натрупали опит във внедряването и в някои случаи са повлияли на пътните карти на продуктите. По-стратегически важният въпрос не е кой доставчик на верификация да изберем днес, а кои подпроблеми в пространството за верификация са най-близо до готовност за производство и следователно си струва да се изградят критерии за обществени поръчки още сега.

Как да преформулираме критериите за оценка на доставчиците

Стандартната рамка за оценка на доставчиците на ИИ за предприятия, която е склонна да отдава предимство на бенчмарк производителността, площта на интеграция и общите разходи за притежание, е проектирана за пазар, който поставя на първо място възможностите. Тя не обхваща атрибутите, които са най-важни на пазар, който поставя на първо място надеждността. CTO-тата, оценяващи доставчиците на ИИ през 2026 г., трябва да добавят поне три критерия, които повечето текущи шаблони за RFP не включват. Първо, какъв формален или полуформален език за спецификация използва доставчикът, за да дефинира поведението на системата, и дали тази спецификация може да бъде одитирана от трета страна. Второ, каква е документираната таксономия на режима на отказ на доставчика, което означава структуриран отчет за условията, при които системата произвежда неправилни, вредни или извън обхвата резултати. Трето, какви доказателства предоставя доставчикът за поведение извън дистрибуцията, а не само за бенчмарк производителност на стандартни тестови набори. Тези критерии не са хипотетични стандарти; те са изискванията за доказателства, които функциите за съответствие и правни функции в регулираните предприятия започват да налагат, а доставчиците, които не могат да ги изпълнят, ще се сблъскат с по-дълги цикли на обществени поръчки, независимо от производителността на техния модел.

Инфраструктурният слой, формиращ се под моделите на основите

По-задълбоченото структурно наблюдение е, че корпоративният ИИ следва модел, общ за други категории инфраструктура: период на бързо развитие на капацитета на приложното ниво, последван от появата на слой за доверие и управление, който се превръща в предпоставка за широко внедряване. Интернет изискваше сертифициращи органи и SSL, преди електронната търговия да може да се мащабира. Облачните изчисления изискваха SOC 2 и ISO 27001, преди регулираните индустрии да мигрират работните натоварвания. ИИ сега навлиза във фазата, в която се изгражда инфраструктурата за доверие, а компаниите, които я изграждат, привличат капитал на тази основа. За техническите директори това означава, че пейзажът на доставчиците след 12 месеца ще изглежда съществено различен от днешния, с по-специализирани инструменти за проверка, одит и поведенческа спецификация, а екипите за обществени поръчки в партньорски организации вече ще разработват мнения за това кои доставчици са надеждни.

Какво трябва да направят техническите директори с този сигнал

Практическото значение не е незабавно да се закупят официални инструменти за проверка, повечето от които все още не са достатъчно зрели за широко внедряване в предприятията извън критичните за безопасността вертикали. Изводът е да се започне изграждането на вътрешна грамотност за това какви поведенчески гаранции са технически постижими, да се включат изисквания за проверимост в RFP на доставчици на ИИ, дори когато настоящите доставчици не могат да ги изпълнят напълно, и да се следи пейзажът на доставчиците на проверка със същото внимание, което понастоящем се обръща на доставчиците на базови модели. Предприятията, които третират доверителната инфраструктура като допълнителна мисъл при обществените поръчки, ще се сблъскат с два усложняващи се проблема: регулаторна експозиция с затягането на изискванията за съответствие и зависимост от доставчици на ИИ, чиито характеристики на надеждност не са достатъчно документирани. Повишаването на Pramaana е една точка от данните, но тя сочи в посока, която регулаторната среда, процентът на неуспешно внедряване и пейзажът на нововъзникващите доставчици потвърждават.