Когда хорошие намерения идут не так: обратная сторона ChatGPT
Больше раз, чем вы узнавали ценную информацию из моих предыдущих рассказов, я использовал слова «давайте посмотрим. (Убедитесь сами). позволяет им выработать собственный стиль обучения.
ИИ (искусственный интеллект) сказал мне это в лицо, когда я предоставил тексты своих историй и то, чего я пытался достичь на среде. Он также посоветовал мне написать что-нибудь модное, чтобы привлечь больше внимания, отсюда и тема ChatGPT. Плохой знак после ИИ, но посмотрим😀
Это было похоже на то время, когда мама или папа учат тебя чему-то и говорят, что никто тебя этому не научит; мы ваши родители, поэтому мы обеспокоены; иначе люди не скажут вам, что вы делаете что-то не так.
Население мира сейчас составляет примерно 8 миллиардов человек. Примерно 5 миллиардов из этих людей имеют доступ к Интернету. ChatGPT, проект OpenAI, впервые стал доступен широкой публике в ноябре 2022 года. По словам технического директора OpenAI, они выпустили его с ограничениями, чтобы узнать, к каким возможным негативным последствиям это приведет. нам быть. Несмотря на то, что многие люди до сих пор не знают об этом, потенциально 5 миллиардов человек, так или иначе, сейчас или в будущем, получат доступ к ChatGPT. Что они будут искать и куда они приведут ChatGPT — тайна, которую лучше не исследовать.
Не поймите меня неправильно. Я полностью за развитие ИИ и технологий, и с моей стороны нет никаких но. Мы должны меняться в ногу со временем и приспосабливаться как можно лучше. Тем не менее, мы должны быть готовы признать негативное влияние этих технологий, оставив в стороне наши собственные предубеждения.
Любой алгоритм модели машинного обучения работает на основе математики, вероятности и статистики. Все сводится к формулам и алгоритмам, используемым для обучения, которые были разработаны людьми. Еще одна важная вещь, которая потребовалась бы OpenAI для разработки ChatGPT, — это данные. Огромное количество качественных данных. Я просмотрел его и обнаружил, что они берут свои данные из открытого Интернета, извлекая доступные общедоступные наборы данных и сотрудничая с университетами, исследовательскими организациями и технологическими компаниями, такими как Microsoft, чтобы использовать их данные для улучшения своей модели. Отзывы самого ChatGPT также используются в качестве данных для переобучения и улучшения модели.
Миссия спасти мир
OpenAI утверждает, что они выполняют миссию по разработке общего искусственного интеллекта — машины с способностями к обучению и рассуждениям человеческого разума. Они признают отрицательную сторону AGI (искусственного общего интеллекта). Но плюсы перевешивают минусы, и навсегда остановить его развитие невозможно. Они будут выпускать его постепенно и неуклонно по мере того, как общество принимает его, минимизирует недостатки, регулирует его и развивается с помощью своего ИИ.
В каждом научно-фантастическом фильме, в котором участвует ИИ, говорится об этих вещах, и все заканчивается катастрофой. Почему? Потому что люди непредсказуемые существа. Создавать что-то вроде ChatGPT и ожидать от этого только хорошего — глупейшая вещь. Как и для чего он будет использоваться, даже мы сами не уверены, и говорить о его регулировании тоже глупо, потому что мы не знаем, что будем регулировать. Даже одной лазейки достаточно, чтобы манипулировать этими технологиями и получить невообразимые результаты.
Сохраняя веру
OpenAI — мировой рыцарь в сияющих доспехах, тщательно создавший свою репутацию.
- В мире, где все решают деньги, маркетинг и продажи, OpenAI является некоммерческой организацией. Это предотвращает давление со стороны инвесторов и акционеров и позволяет сосредоточиться на важной работе по развитию ОИИ.
- Их самый священный документ, называемый Хартия OpenAI, гласит, что их главная фидуциарная обязанность — перед человечеством. и они будут сотрудничать со своими конкурентами, если конкуренты будут ближе к достижению ОИИ, чем они.
Разработка ОИИ — непростая задача; для этого требуется огромное количество данных и вычислительных ресурсов, и невозможно приобрести ресурсы и быть некоммерческой организацией. Осознав это в 2019 году, они реструктурировали и запустили предприятие с ограниченной прибылью (компания, которая сокращает отдачу от инвестиций после определенного момента), а также получили 1 миллиард долларов от Microsoft.
Заключение :
Секретность, которую OpenAI хранит в отношении разработки AGI и возможных побочных эффектов, привела к тому, что люди обвиняли их в отказе от своей собственной миссии. Это не столько технология, сколько человек, использующий ее, делает это рискованным и опасным. Размышляя об ограничениях, налагаемых OpenAI при выпуске его в открытый мир, что происходит, когда они явно снимают эти ограничения? Удиви меня,
"Что тогда?"
Счастливого обучения!!!
Ссылки, чтобы узнать больше о ChatGPT и OpenAI:
OpenAI переходит от некоммерческой деятельности к «ограниченной прибыли для привлечения капитала
В будущем OpenAI может стать не таким открытым. Бывшая некоммерческая организация объявила сегодня о реструктуризации в…techcrunch.com»
