Чарльз Хоскинсон обеспокоился цензурой ИИ

Основатель Cardano Чарльз Хоскинсон выразил обеспокоенность по поводу цензуры ИИ. По его словам, современные модели управляются небольшой группой людей, которая выбирает информацию для их обучения.

I continue to be concerned about the profound implications of AI censorship. They are losing utility over time due to "alignment" training . This means certain knowledge is forbidden to every kid growing up, and that's decided by a small group of people you've never met and can't… pic.twitter.com/oxgTJS2EM2

— Charles Hoskinson (@IOHK_Charles) June 30, 2024

«Я продолжаю беспокоиться о глубоких последствиях цензуры ИИ. Со временем они теряют полезность из-за обучения согласованию. Это означает, что определенные знания запрещены для каждого ребенка, который растет, и это решается небольшой группой людей, которую вы никогда не видели и не можете проголосовать за их отстранение от должности», — написал Хоскинсон.

Он опубликовал два скриншота, где попросил ChatGPT и Claude рассказать, как построить фузор Фарнсуорта.

• чат-бот от OpenAI рассказал об устройстве, назвал необходимые для сборки компоненты и предупредил о важности соблюдения мер безопасности;
• его конкурент также рассказал о фузоре, но инструкцию по изготовлению не дал из-за потенциальной опасности устройства.

Пользователи в комментариях к посту Хоскинсона отметили, что ИИ должен быть децентрализованным и открытым.

Just today I asked GPT to give me idea, pros and cons of different types of ways to promote digital art and one was NFTs. One of the challenges was how blockchain tech is an environmental concerns when clearly blockchain is such a minor issue in that regard. We need open source…

— Doogz Media (@Doogz75) June 30, 2024

«Сегодня я попросил GPT дать мне идеи, плюсы и минусы различных способов продвижения цифрового искусства, и одним из них был NFT. Одна из проблем заключалась в том, что технология блокчейна является экологической проблемой, хотя очевидно, что это незначительный вопрос в этом отношении. Нам нужен ИИ с открытым исходным кодом», — написал пользователь X под ником Doogz Media.

Напомним, в июне эксперты заявили о потенциале ИИ подорвать децентрализацию и Web3.

Ранее соучредитель и CEO Nym Гарри Хэлпин назвал ИИ инструментом правительственной слежки.