Опасности неуправляемого ИИ
С развитием искусственного интеллекта (ИИ) возникают важные вопросы о его потенциальной опасности. Если дать ему больше автономии и подключить к критически значимым системам, таким как финансовые рынки, электросети или даже вооруженные силы, последствия могут быть непредсказуемыми.
Мнение экспертов
По данным исследования, проведенного среди трех тысяч специалистов в области машинного обучения, не исключено, что ИИ может способствовать различным общественным потрясениям. Они согласны с тем, что одна из основных угроз заключается в способности ИИ распространять дезинформацию и манипулировать мнениями людей. Некоторые эксперты предупредили, что сценарий глобального уничтожения человечества не так уж далек и шанс на это оценивается не менее чем в 10%.
Общие опасения
- Автономия ИИ в стратегически важных сетях.
- Способность к дезинформации и её влияние на общественное сознание.
