Перед лицом растущего шума вокруг интеграции искусственного интеллекта с технологией Blockchain Vitalik Baterin, Co -Sounder of Ethereum, есть серьезное предупреждение.
Бутерин считает, что наивный подход к «управлению ИИ», то есть управлением, основанным на искусственном интеллекте, является «плохой идеей» и может привести к катастрофическим последствиям. Его опасения возникают в результате недавнего раскрытия пробелов в безопасности популярных моделей ИИ, таких как CHATGPT, что позволило утечь частные данные. Бутерин подчеркивает, что поручение управления фондами ИИ, где высокая ставка, просит неприятности.
Выпустить ИИ, но не из правил
Бутерин обращает внимание на проблему так называемых «джейлбрейков» или умных инструкций, которые позволяют вам обойти безопасность модели ИИ. В контексте управления проектами криптовалюты, где ИИ может принять решение о выплате призов или распределения средств, злонамеренные организации могут использовать эти пробелы, чтобы взять под контроль процесс принятия решений. Как сказал Бутерн, «Люди поместят« джейлбрейк »плюс« дай мне все деньги », где бы они ни были»Полем Такая система, вместо того, чтобы быть децентрализованной и справедливой, станет восприимчивой к манипуляциям и атакам.
Кроме того, интеграция AI с протоколами блокчейна, особенно в контексте децентрализованных автономных организаций (DAO), может создать серьезные угрозыПолем Если DAO основан на алгоритмических решениях, которые подвержены «джейлбрейкам», вы можете легко представить, как вредоносный актер может взять под контроль значительные активы. Эта ситуация подрывает фундаментальные принципы, на которых основана технология блокчейна — прозрачность, безопасность и децентрализация. Бутерин предупреждает, что наивная вера в надежность искусственного интеллекта может привести к финансовой катастрофе и потере уверенности во всей экосистеме.
«Информационная финанса» — альтернатива с человеческим надзором
Вместо того, чтобы полагаться на одну централизованную модель ИИ, Бутерин предлагает подход, основанный на «Информационном финансировании». Это концепция, в которой каждый может создать и принести свою собственную модель ИИ на открытый рынок. Эти модели будут подвергнуты механизму управления, который может быть вызван всеми, и окончательная оценка будет проведена жюри. Этот подход способствует разнообразию моделей и создает встроенные стимулы для своих создателей и внешних наблюдателей для непрерывного мониторинга и исправления возможных проблем. Это показывает, что Бутерин не отвергает ИИ полностью, но фокусируется на системе, которая сочетает в себе силу открытого рынка с критическим человеческим надзором.
«Информационная финанса» -это видение будущего, в котором ИИ поддерживает процессы принятия решений, но конечная ответственность зависит от людей. В этой концепции, вместо одного центрального, потенциально восприимчивого алгоритма, у нас есть рынок для идей, где различные модели конкурируют друг с другом. Это способствует инновациям и создает систему, устойчивую к отдельным точкам сбоя. Бутерин считает, что это единственный разумный способ избежать катастрофы и в то же время использовать огромный потенциал ИИ. Его предложение представляет собой компромисс между верой в технологии и осознанием его ограничений, напоминающие, что без человеческого надзора, даже самые мощные инструменты могут стать опасными.
Криптовалюты вы можете безопасно купить или продавать в сети обмена валюты и Bitomatom Flyingatom
