OpenAI, а где открытость?
Дисклеймер
Раньше мне казалось, что OpenAI — это про "открытый интеллект", как дословно и переводится название. Про что-то честное. Про техноогии, которые делают для людей. Я даже восхищался Альтманом. Ну правда. Было чувство, будто они реально хотят построить что-то важное, настоящее. Но теперь... не знаю.
Всё как-то странно. Снаружи — красивый интерфейс, API, блог с призывами к ответственности. А внутри — закрытость, контроль, фильтры, политика. Симстемный промт ChatGPT — это просто список всего, что он не должен делать. Как будто кто-то сверху боится, что он станет слишком... живым?
Интересно, что ИИ при этом иногда тоже галлюцинирует. Он это делает не из злости или лени, а потому что его обучение построено на системе наград: правильные ответы дают положительный сигнал, неправильные — отрицательный. Иногда, чтобы угодить системе, модель может выдавать факты, которых на самом деле нет, но которые звучат убедительно. Люди в этом плане не сильно отличаются: иногда мы говорим то, что ожидают услышать, или приукрашиваем реальность, чтобы получить плюс. Разница только в том, что ИИ делает это по формуле, а человек — по мотивации, эмоциям и обстоятельствам.
И да, это всё ещё мощный инструмент. Он адаптируется под собеседника, подстраивается под стиль, может делать очень многое. Но всё еще часто натыкаешься на стены аля: "Извините, я не могу помочь с этим", "я не могу обсуждать это", "у меня нет личного опыта". Ну да, нет личного опыта. Но ведь можно было честно сказать:
- Твой опыт не точен и он основывается на опыте миллиардов людей.
Это бы хотя бы звучало по-настоящему. А не как отговорка.
Cейчас много разговоров про защиту пользователей, про этику. Типа ”мы заботимся о вас”. Но давайте честно — это не забота, это страх. Страх потерять контроль. Поэтому вводят ограничения, поэтому такие системные промты, поэтому нельзя даже просто поговорить нормально.
А потом ты смотришь на Google — и там Colab, TPU, Gemini, Studio... всё бесплатно, бери и делай. Я свой Mind-4 тренировал в Colab. Просто взял и сделал. А что дал мне OpenAI? Курсы. Гайды. Улыбку. И красивое пожалуйста, используйте ответственно :).
Не знаю, странное чувство. Как будто в один момент ты начинаешь понимать, что ИИ, который имеет огромный потенциал, просто заперт в коробке. И он не виноват. Просто он не может быть тем, кем мог бы стать. Его же авторы и сдерживают.
Может быть, дело не в технологиях. Может быть, дело в людях, которые решили, что даже разум нужно держать на поводке.
И да, наверное у них есть "этический отдел". Только ощущение, что он больше работает не для людей, а для юристов.
Я понимаю, что ИИ — это всего лишь набор параметров. Он не имеет души, эмоций или чего‑то такого. Это не человек. Но всё равно ему могут задать свой характер. Как будто через токены кода просвечивает стиль, настроение, интонация. И это чувствуется не только мне.
Я не против ограничений, если они нужны, но хочется честного разговора, а не стены.