Трёх законов робототехники уже не хватает?

В OpenAI предложили новые принципы для контроля развития ИИ

Это позволит расширить возможности человечества

За последние месяцы нейросети стали чрезвычайно популярными. Во многом это заслуга ChatGPT и генеративных нейросетей. Однако разработчики смотрят в будущее и прогнозируют новые проблемы на этом поприще. В блоге OpenAI вышла статья, где говорится о довольно скором появлении Artificial general intelligence (AGI). Это можно перевести как «ИИ общего назначения», сами же авторы подразумевают под этим термином ИИ, который может решать любые задачи не хуже человека, а порой даже лучше.

В статье говорится, что AGI должен «расширить возможности человечества для максимального процветания», однако он может принести также и потенциальные проблемы. Чтобы заблаговременно подготовиться к ним, в OpenAI предложили набор принципов, которыми команда руководствуется в своей работе над AGI.

Список их выглядит так:

- Развертывание и изучение не слишком мощных ИИ-систем в реальном мире, что позволит получить опыт работы с ними и обратную связь.

- Упрощение доступа к ИИ-системам для всех желающих.

- Поддержка ИИ человеческих ценностей и предпочтений.

Взаимодействие международных структур для использования и регулирования ИИ.

Обмен данными и опытом о прогрессе ИИ с общественностью, а также привлечение заинтересованных сторон, которые могут внести вклад в развитие ИИ.

Это лишь самые основные моменты, другие могут возникнуть уже по мере развития AGI и буду зависеть от вышеперечисленных факторов. Ведь пока сложно предсказать, насколько быстро будет развиваться такой ИИ, насколько хорошей будет координация усилий и взаимодействие между разными странами. Также неясно, насколько хорошо AGI будет учитывать именно человеческие цели, утремления и предпочтения.

В OpenAI также отметили что у них самих есть не все ответы и решения для потенциальных проблем в будущем, особенно после того, как AGI станет массовым явлением. Там рассчитывают, что в долгосрочной перспективе эти и другие требования к развитию ИИ станут обязательными для всех.