OpenAI опубликовала порядок отслеживания, расследования и раскрытия случаев нежелательного поведения моделей и шесть отчётов о таких случаях за последние шесть месяцев. Новый порядок должен ускорить публикацию отчётов после выявления случаев, даже если компания ещё не объяснила или не устранила их.

Он распространяется на соответствующее критериям поведение во время обучения, оценки, тестирования и развёртывания модели. Первые опубликованные отчёты не являются полным перечнем известных случаев или продолжающихся расследований.

Проверка утверждений:

  • OpenAI опубликовала порядок отслеживания, расследования и раскрытия случаев нежелательного поведения моделей, а также шесть отчётов о таких случаях за последние шесть месяцев. (подтверждено самой публикацией: доказательство; «We are sharing a new framework for tracking, investigating, and disclosing instances of model misalignment at OpenAI, along with six reports on unexpected or concerning model behavior we’ve observed in the last six months.»)
  • Новый порядок должен ускорить публикацию отчётов после выявления случаев, даже если OpenAI ещё не объяснила или не устранила их. (подтверждено самой публикацией: доказательство; «This new framework is intended to expedite publishing misalignment reports following observation, even when we haven’t fully explained or mitigated the behavior we’re reporting.»)
  • Порядок распространяется на соответствующее критериям поведение во время обучения, оценки, тестирования и развёртывания модели. (подтверждено самой публикацией: доказательство; «This framework will cover qualifying behavior throughout a model’s lifecycle—including training, evaluation, testing, and deployment.»)
  • Первые опубликованные отчёты не являются полным перечнем известных случаев или продолжающихся расследований. (подтверждено самой публикацией: доказательство; «Today’s reports are an initial set of disclosures, rather than a comprehensive account of known misalignment or ongoing investigations.»)

Публикации:

Первоисточники:

оценка 86,8 из 100 · тип: инцидент · обновление 10