Индустрия искусственного интеллекта столкнулась с нехваткой специфических компетенций, пишет New Scientist.
Ведущие разработчики предлагают ученым высокие зарплаты и опционы, чтобы те помогли сделать алгоритмы более надежными. Специалисты пытаются разгадать тайну человеческого разума и понять возможность его программного копирования.
«Темы, десятилетиями изучавшиеся на философских кафедрах – как принимать рациональные решения, систематизировать моральные принципы, что считать мышлением или доказательством сознания – внезапно обрели огромную ценность. Поэтому мы наблюдаем колоссальную утечку мозгов», – заявил Джонатан Бирч из Лондонской школы экономики.
Главной задачей новых сотрудников стало согласование ценностей и блокировка инструкций по созданию опасных предметов. Простые запреты оказались неэффективными, поэтому компании внедряют сложные методы на основе глубокого понимания добра и зла. Философы также помогают бороться с галлюцинациями нейросетей и системными искажениями логики.
Эксперты отмечают историческую связь между этими дисциплинами. Анализ рынка труда показывает, что 26,6% предложений упоминают этику и безопасность алгоритмов. Однако лишь 5% позиций реально предполагают глубокую научную работу в этой сфере.
Как писала газета ВЗГЛЯД, компания OpenAI внедрила систему родительского контроля в ChatGPT из-за опасных ответов бота.
Руководство корпорации Anthropic отказалось от участия в проектах по созданию летального автономного вооружения.
Эксперты в Москве рассмотрели вопросы законодательного регулирования искусственного интеллекта.