Якщо це правда, то це поганий сигнал. Особливо, якщо моделям не просто заборонять говорити на певні теми, а замінять базові установки, такі як рівність, права, цінності тощо. З іншого боку, якщо це справді буде лише fine-tuning, то навряд чи їм це вдасться.
TL;DR: OpenAI разом із еміратською компанією G42 готує спеціальну версію ChatGPT для ОАЕ, яка розмовлятиме місцевою арабською, враховуватиме політику монархії та місцеві закони про цензуру, що порушує питання про контроль ШІ та свободу слова.
OpenAI та абу-дабійський холдинг G42 працюють над «локальним» ChatGPT для уряду ОАЕ. Модель будуть доналаштовувати, а не навчати з нуля, щоб вона краще розуміла місцевий арабський діалект і відповідала «культурі та цінностям» країни.
За словами співрозмовників Semafor та чиновників OpenAI, ця версія має відображати політичну лінію монархії та включати обмеження щодо контенту. Наприклад, при забороні ЛГБТ-тем модель відповідатиме, що запит порушує місцевий закон.
В ОАЕ залишиться і глобальна версія ChatGPT, але вона теж підлаштовуватиметься під місцеві закони: заборонені теми блокуватимуться з поясненням.
Джерело новини — стаття Semafor, заснована на словах «людей, знайомих із проєктом», та коментарях представників OpenAI; прямих офіційних детальних пресрелізів у тексті немає, багато чого передано через анонімні джерела.
В аналітичній частині автор зазначає: цензурувати ШІ складніше, ніж соцмережі — моделі непередбачувані, їх можна «зламувати», а відкриті моделі можна запускати локально без цензури. Це створює ризик, що в країнах із жорстким контролем з’являться альтернативні «дисидентські» ШІ-моделі.
ОАЕ вже давно активно інвестують у ШІ: G42 вклалася в OpenAI (оцінка $500 млрд), а пов’язаний проєкт «Stargate» будує великий дата-центр; Сем Альтман регулярно залучає капітал з Абу-Дабі і тепер шукає ще близько $50 млрд.