OpenAI опублікувала порядок відстеження, розслідування та розкриття випадків небажаної поведінки моделей і шість звітів про такі випадки за останні шість місяців. Новий порядок має пришвидшити публікацію звітів після виявлення випадків, навіть якщо компанія ще не пояснила або не усунула їх.

Він поширюється на поведінку, що відповідає критеріям, під час навчання, оцінювання, тестування та розгортання моделі. Перші опубліковані звіти не є повним переліком відомих випадків або поточних розслідувань.

Перевірка тверджень:

  • OpenAI опублікувала порядок відстеження, розслідування та розкриття випадків небажаної поведінки моделей і шість звітів про такі випадки за останні шість місяців. (підтверджено самою публікацією: доказ; «We are sharing a new framework for tracking, investigating, and disclosing instances of model misalignment at OpenAI, along with six reports on unexpected or concerning model behavior we’ve observed in the last six months.»)
  • Новий порядок має пришвидшити публікацію звітів після виявлення випадків, навіть якщо OpenAI ще не пояснила або не усунула їх. (підтверджено самою публікацією: доказ; «This new framework is intended to expedite publishing misalignment reports following observation, even when we haven’t fully explained or mitigated the behavior we’re reporting.»)
  • Порядок поширюється на поведінку, що відповідає критеріям, під час навчання, оцінювання, тестування та розгортання моделі. (підтверджено самою публікацією: доказ; «This framework will cover qualifying behavior throughout a model’s lifecycle—including training, evaluation, testing, and deployment.»)
  • Перші опубліковані звіти не є повним переліком відомих випадків або поточних розслідувань. (підтверджено самою публікацією: доказ; «Today’s reports are an initial set of disclosures, rather than a comprehensive account of known misalignment or ongoing investigations.»)

Публікації:

Першоджерела:

оцінка 86,8 зі 100 · тип: інцидент · оновлення 10