Авторы доклада на сайте Кембриджа изучают, может ли автоматизация исследований и разработки ИИ за месяцы дать результат многих лет. По предварительным данным, авторы считают такой сценарий возможным.
По прогнозу авторов, в течение нескольких лет ИИ сможет выполнять большую часть работы по исследованию и разработке новых систем ИИ. Если из-за этого прогресс резко ускорится, полезные возможности ИИ могут появиться раньше, но вместе с ними возрастёт риск потери контроля над системами, превосходящими человека.
Авторы подчёркивают, что в этих прогнозах остаётся много неопределённости. Они рекомендуют властям лучше отслеживать автоматизацию разработки ИИ и искать способы сдержать её возможное резкое ускорение.
Проверка утверждений:
- Авторы доклада на сайте Кембриджа изучают, может ли автоматизация исследований и разработки ИИ за месяцы дать результат многих лет. (подтверждено самой публикацией: доказательство; «As more of the AI research and development (R&D) pipeline is automated, could AI progress radically accelerate in an “intelligence explosion,” where years of advances are compressed into months or less?»)
- По предварительным данным, авторы считают такой сценарий возможным. (подтверждено самой публикацией: доказательство; «Preliminary evidence suggests that it could.»)
- По прогнозу авторов, в течение нескольких лет ИИ сможет выполнять большую часть работы по исследованию и разработке новых систем ИИ. (подтверждено самой публикацией: доказательство; «AI systems are on track to automate most AI R&D work within a few years, and possibly all of it.»)
- Если из-за этого прогресс резко ускорится, полезные возможности ИИ могут появиться раньше, но вместе с ними возрастёт риск потери контроля над системами, превосходящими человека. (подтверждено самой публикацией: доказательство; «If this triggers an intelligence explosion, it could dramatically bring forward AI’s benefits, but also pose extreme risks: capabilities growth could accelerate far beyond what society can keep up with, humanity could lose control over superhuman AI systems, and checks on power within and between states, companies, and branches of government could be severely eroded.»)
- Авторы подчёркивают, что в этих прогнозах остаётся много неопределённости. (подтверждено самой публикацией: доказательство; «Although there remains much uncertainty about these possibilities, the high stakes warrant serious further attention.»)
- Они рекомендуют властям лучше отслеживать автоматизацию разработки ИИ и искать способы сдержать её возможное резкое ускорение. (подтверждено самой публикацией: доказательство; «Policymakers should urgently obtain more visibility into the automation of AI R&D, develop ways to steer and constrain an intelligence explosion, and prepare society to adapt to an intelligence explosion’s impacts.»)
Публикации:
Первоисточники:
оценка 50,3 из 100 · тип: исследование