Ако това е вярно, това е лош сигнал. Особено ако на моделите не просто ще бъде забранено да говорят по определени теми, а ще бъдат заменени базови настройки като равенство, права, ценности и т.н. От друга страна, ако това наистина ще бъде само fine-tuning, едва ли ще успеят.
TL;DR: OpenAI заедно с емиратската компания G42 подготвя специална версия на ChatGPT за ОАЕ, която ще говори на местен арабски, ще отчита политиката на монархията и местните закони за цензура, което повдига въпроси за контрола върху ИИ и свободата на словото.
OpenAI и абудабският холдинг G42 работят върху „локален“ ChatGPT за правителството на ОАЕ. Моделът ще бъде донастройван, а не обучаван от нулата, за да разбира по-добре местния арабски диалект и да съответства на „културата и ценностите“ на страната.
Според събеседници на Semafor и служители на OpenAI, тази версия трябва да отразява политическата линия на монархията и да включва ограничения върху съдържанието. Например, при забрана на ЛГБТ теми моделът ще отговаря, че заявката нарушава местния закон.
В ОАЕ ще остане и глобалната версия на ChatGPT, но тя също ще се адаптира към местните закони: забранените теми ще бъдат блокирани с обяснение.
Източникът на новината е статия в Semafor, базирана на думите на „хора, запознати с проекта“, и коментари на представители на OpenAI; в текста няма преки официални подробни прессъобщения, много неща са предадени чрез анонимни източници.
В аналитичната част авторът отбелязва: цензурирането на ИИ е по-трудно от това на социалните мрежи — моделите са непредсказуеми, могат да бъдат „хакнати“, а отворените модели могат да се стартират локално без цензура. Това създава риск в страните с тежък контрол да се появят алтернативни „дисидентски“ ИИ модели.
ОАЕ отдавна инвестират активно в ИИ: G42 инвестира в OpenAI (оценка 500 млрд. долара), а свързаният проект „Stargate“ изгражда голям център за данни; Сам Алтман редовно привлича капитал от Абу Даби и сега търси още около 50 млрд. долара.