OpenAI считает, что Astra достигла критического уровня кибервозможностей по внутренней шкале Preparedness Framework. По оценке OpenAI, при наличии необходимых инструментов и доступа Astra может без пошаговых указаний человека находить неизвестные уязвимости и разрабатывать способы их эксплуатации во многих хорошо защищённых системах.

Компания отложила часть разработки и выпуска Astra, пока усиливала и проверяла защиту от киберзлоупотреблений и несанкционированных действий модели. Доступ к расширенным кибервозможностям сначала получит небольшая группа альфа-тестеров, а затем OpenAI планирует расширять использование этих возможностей в защитных целях через Daybreak Blue.

OpenAI предупреждает, что дополнительные проверки могут замедлять, приостанавливать или останавливать и законную работу, включая задачи по киберзащите.

Проверка утверждений:

  • OpenAI считает, что Astra достигла критического уровня кибервозможностей по внутренней шкале Preparedness Framework. (подтверждено самой публикацией: доказательство; «We now believe Astra meets the Critical cybersecurity capability threshold under our Preparedness Framework»)
  • По оценке OpenAI, при наличии необходимых инструментов и доступа Astra может без пошаговых указаний человека находить неизвестные уязвимости и разрабатывать способы их эксплуатации во многих хорошо защищённых системах. (подтверждено самой публикацией: доказательство; «meaning that with the right tools and access, it can find previously unknown security flaws and develop ways to exploit them across many well-protected systems without a person guiding each step.»)
  • Компания отложила часть разработки и выпуска Astra, пока усиливала и проверяла защиту от киберзлоупотреблений и несанкционированных действий модели. (подтверждено самой публикацией: доказательство; «Over the past several weeks, we have delayed parts of Astra’s development and release while we strengthened and tested protections against cyber misuse and unauthorized model actions.»)
  • Доступ к расширенным кибервозможностям сначала получит небольшая группа альфа-тестеров, а затем OpenAI планирует расширять использование этих возможностей в защитных целях через Daybreak Blue. (подтверждено самой публикацией: доказательство; «Access to Astra for advanced cybersecurity workflows will initially be available to a small group of alpha testers, with access through Daybreak Blue expanding afterward to support defensive use.»)
  • OpenAI предупреждает, что дополнительные проверки могут замедлять, приостанавливать или останавливать и законную работу, включая задачи по киберзащите. (подтверждено самой публикацией: доказательство; «Extra safety checks can sometimes slow, pause, or stop legitimate work, including defensive cybersecurity.»)

Публикации:

Первоисточники:

оценка 90,0 из 100 · тип: анонс · обновление 68