Кембъл Браун е посветила кариерата си на търсенето на достоверна информация – първо като утвърден телевизионен журналист, а по-късно като първия и единствен ръководител на новинарския отдел във Facebook. Днес, наблюдавайки как изкуственият интелект променя начина, по който консумираме информация, тя вижда, че историята е напът да се повтори. Този път обаче тя не чака някой друг да реши проблема.
Нейната компания Forum AI оценява представянето на фундаменталните модели по теми, които тя нарича „теми с висок залог“: геополитика, психично здраве, финанси, подбор на персонал. Това са области, в които
няма категорични отговори „да“ или „не“, а материята е комплексна, нюансирана и сложна“, обяснява Кембъл пред TechCrunch.
Идеята е да се привлекат водещи световни експерти, които да изготвят критерии за оценка, а след това въз основа на тях да се обучат AI „съдии“, способни да анализират моделите в голям мащаб. За работата на Forum AI в сферата на геополитиката Браун е ангажирала имена като Нийл Фъргюсън, Фарид Закария, бившия държавен секретар на САЩ Тони Блинкен, бившия председател на Камарата на представителите Кевин Маккарти и Ан Нюбъргър, отговаряла за киберсигурността в администрацията на Обама. Целта е AI съдиите да постигнат около 90% съгласие с човешките експерти – праг, който според Браун компанията вече е успяла да достигне.
Браун проследява началото на Forum AI, основана преди 17 месеца в Ню Йорк, до един конкретен момент. „Бях в Meta, когато ChatGPT се появи за първи път“, спомня си тя.
Много скоро осъзнах, че това ще бъде фунията, през която ще преминава цялата информация. И това не е никак добре.“
Възможните последици за собствените ѝ деца придават на момента почти екзистенциален характер.
Децата ми ще оглупеят сериозно, ако не измислим как да оправим това“, мисли си тя тогава.
Най-голямото ѝ разочарование идва от факта, че точността не изглежда приоритет за никого. Според нея компаниите, разработващи базови модели, са „изключително фокусирани върху програмирането и математиката“, докато работата с новини и информация е по-трудна. Но това, че е по-трудно, не означава, че е маловажно, твърди тя.
И наистина, когато Forum AI започва да оценява водещите модели, резултатите не са особено окуражаващи. Тя дава за пример Gemini, който използва информация от уебсайтове на Китайската комунистическа партия за „теми, които нямат нищо общо с Китай“, и отбелязва ляво ориентирани политически пристрастия в почти всички модели. Съществуват и по-фини пропуски: липса на контекст, липсващи гледни точки и аргументи, които изопачават фактите, без това да е очевидно. „Предстои дълъг път“, казва тя, „но вярвам, че има някои лесни решения, които биха подобрили резултатите значително.“
Браун прекарва години във Facebook, наблюдавайки какво се случва, когато една платформа се оптимизира за грешните цели. „Провалихме се в много от нещата, които опитахме“, признава тя пред Фернхолц. Програмата за проверка на фактите (fact-checking), която тя създава, вече не съществува. Урокът, който социалните мрежи така и не научиха напълно, е, че стремежът към максимална ангажираност на потребителите е вреден за обществото и оставя хората по-слабо информирани.
Надеждата ѝ е, че изкуственият интелект може да прекъсне този цикъл.
В момента са възможни и двата сценария“, казва тя. Компаниите могат да дадат на потребителите това, което искат, или да им дадат „това, което е реално, честно и истинно“.
Тя признава, че идеалистичната версия – AI, оптимизиран за истината – може да звучи наивно. Но вярва, че бизнесът може да се окаже неочакван съюзник. Компаниите, които използват AI за кредитни решения, застраховки или подбор на персонал, носят отговорност и „ще искат технологията да бъде оптимизирана така, че да не допуска грешки“.
Именно на този интерес от страна на бизнеса залага Forum AI, макар че превръщането на търсенето на надеждност в постоянни приходи остава предизвикателство. Проблемът е, че голяма част от настоящия пазар все още се задоволява с повърхностни одити и стандартизирани критерии, които Браун счита за неадекватни.
Истинската оценка изисква експертни познания, за да се разгледат не само стандартните ситуации, но и граничните случаи, които „могат да създадат проблеми, за които хората дори не подозират“. Тази работа изисква време.
Умните „генералисти“ няма да се справят с това.“
Браун – чиято компания миналата есен събра 3 млн. долара финансиране, водено от Lerer Hippeau – е в уникална позиция да опише разминаването между самооценката на AI индустрията и реалността за потребителите.
От лидерите на големите технологични компании чувате: „Тази технология ще промени света“, „ще излекува рака“ или „ще ви остави без работа“, казва тя. „Но за обикновения човек, който използва чатбот за базови въпроси, отговорите все още често са неясни или погрешни.“
Доверието в изкуствения интелект е на рекордно ниски нива и тя смята, че този скептицизъм е напълно оправдан. „В Силициевата долина разговорът се води в една посока, докато сред масовите потребители темата изглежда по съвсем различен начин.“
Публикувано съгласно указанията на Economic.bg
