Я знаю как работает машинный код. Изучал ассемблер. И я знаю как работает программный код. Можно обучить программу, как учат ребенка, но это ведь годы и годы. И немалые вложения. А зачем так мучаться, если можно родить и воспитать гения?
Использование текстов созданных с помощью ИИ на форуме
- Автор темы священник Алексий
- Дата начала
В этой теме наоборот) там форумчане общаются с копипастом https://azbyka.org/forum/threads/protivorechija-v-biblii.29284/
- Православный христианин
ИИ уже опережает человека. То ли ещё будет.
- Православный христианин
Любая машина опережает человека. Для этого она и создаётся. В космос летаем потому что машина опережает человека. Науку двигаем потому что машина опережает человека. Сейчас, наконец, машина способна обрабатывать данные в большом количестве, которые другие машины были способны получить. Машина получала данные, а человек не был способен большую их часть обработать просто по ограниченности своих собственных способностей ума.
Астрономическая обсерватория с самой большой в мире цифровой камерой получила первые снимки
Обсерватория имени Веры Рубин, финансируемая Национальным научным фондом США и Министерством энергетики, сделала первые снимки ночного неба....
sci.rambler.ru
Последнее редактирование:
- Православный христианин
Друзья, если поисковик переносит искомое на ИИ, всегда ли надо игнорировать такой поиск?
Что имеется ввиду?
Если поисковик гугла или яндекса переносит искомое на ИИ, то ведь можно воспользоваться информацией, что бы через неё найти ссылки на толкования святых отцов или богословов.
Что имеется ввиду?
Если поисковик гугла или яндекса переносит искомое на ИИ, то ведь можно воспользоваться информацией, что бы через неё найти ссылки на толкования святых отцов или богословов.
Последнее редактирование:
А может здесь причина в бессмертии машины?
Ну к примеру: вот начнется окаполипсис и люди погибнут, а на машину это не подействует.
- Православный христианин
Зато человек может взять кусачки и перекусить у ИИ кабель)
- Православный христианин
А ИИ может в с помощью дрона убить человека.
- агностик
- Ты всего лишь машина, имитация жизни. Разве робот может написать симфонию? Или сделать из холста прекрасный шедевр?
- А вы можете?
- А вы можете?
- Православный христианин
Музыку и тексты песен уже пишет и сам поёт. Я лично пробовал.
- агностик
Да, я знаю, но это цитата из фильма, который вышел немного раньше)
- Православный христианин
А судьи кто? Любой может и нарисовать что то и написать что то. И машина тоже и даже слон может что то нарисовать, а кошка что то сыграть пройдясь по клавишам. Современное искусство шедеврально… и люди огромные деньги платят за произведения этого искусства и за концерты…
- Православный христианин
Сразу вспомнились слова из книги Откровение, (глава 9). Ни описаны ли здесь будущие дроны убийцы?
__________________________________________________________
«По виду своему саранча была подобна коням, приготовленным на войну; и на головах у неё — как бы венцы, похожие на золотые, лица же её — как лица человеческие;
и волосы у ней — как волосы у женщин, а зубы у ней были как у львов.
На ней были брони, как бы брони железные, а шум от крыльев её — как стук от колесниц, когда множество коней бежит на войну; у ней были хвосты, как у скорпионов, и в хвостах её были жала»
Последнее редактирование:
- Православный христианин
Терминатор нас всех ждёт.
- Православный христианин
человек тоже. Зачем ему для этого ии? Сам дрон - это ии. Просто название ии пугает. А механическое пианино - это уже ии. "Читает" ноты и играет как писанист...
И вот тут любопытно, кстати дважды два сложить.. Итак, технологии стали реальностью, а как же те законы? - разве в них что то неправильное или трудно осуществимое? Получается, вполне себе реалисты, а не романтики). А вот новую реальность сложно назвать адекватной, и мозги уже перекроены так у многих, что простые и естественные направления развития считаются утопией. Не зря старались и с идеей про рептилойдов.. чтобы потом на действительно здравые замечания о происходящем маразме, вот такие перекроенные ставили их в один ряд с рептилойдами, теория заговора, плоская земля аха-ха и тп..)
- Православный христианин
К чему эта манипуляция. Я должен вам отчитываться вам, где мне писать и о чем?
Мне важно и интересно Православие, поэтому я пишу на православном форуме. Мне важна тема проникновения ИИ в нашу жизнь, вредность этого явления, поэтому я зашел в эту тему. Но разбираться в тонкостях алгоритма ИИ я не собираюсь - это мне неважно и неинтересно.
- Православный христианин
* Не знаю
- Будет спрос на такие посты (читать, отвечать), они и будут появляться на форумах.
священник Алексий
Администратор
- Православный христианин
тему разделил
azbyka.ru
Гениальность
Я знаю как работает машинный код. Изучал ассемблер. И я знаю как работает программный код. Можно обучить программу, как учат ребенка, но это ведь годы и годы. И немалые вложения. А зачем так мучаться, если можно родить и воспитать гения? Тема выделена из другой (администратор).
azbyka.ru
Это походу тот же пользователь, у которого я позаимстовал текст для гптверчения. Не удивительно, что текст не вертится, изначально гптшный.
Не зняю, попадалось два, Андрей Бурков про LLM (пару месяцев назад вышел) и Лю Юси 2024, Машинное обучение, тож листал когда вышла. Все норм, никаких иллюзий, вряд ли мне случайно попались именно две книги исключения из правил.
Как скоро ожидался АГИ (всегда вот-вот, и вкалывают роботы, и так с 1950)))
Я полагаю, что лучше всего на такие сообщения отвечают нейросети:
форма антирационализма, квази-конспирология, ориентированная на недоверие как на мировоззренческую норму(с)
Нет, ИИ — не просто if. Это как сказать, что музыка — это просто ноты, а Google Maps — просто пиксели.
Всё можно свести к базовому, но важен не материал, а структура.
ИИ обучается не по правилам, а по примерам — как ребёнок, а не калькулятор.
У него нет разума, но он ведёт себя разумно в узких задачах — как автопилот, который "не летает", но летает.
Учебники объясняют всё как есть — статистика, градиенты, оптимизация.
"Пыль" — это не в науке, а в представлениях тех, кто не читал или не понял.
Маркетинг? Да, он есть — как и везде. Но идеология "чтобы люди думали, что машина думает" — не прослеживается.
Наоборот, почти все разработчики подчёркивают: модель не мыслит, а моделирует язык.
Итого: не мистика, не заговор, не if. Это сложная инженерия, которая стала работать — и это многих пугает.
Мой комментарий к реплике В
1. Реплика В — не столько разоблачение, сколько перенаправление недоверия
Фраза В пропитана антиинституциональной установкой: мол, «в учебниках нет сути», «пыли много», «маркетинг рулит», «всё затеяно для манипуляции». Это не анализ, а интерпретация с заранее заданным выводом — «всё не то, чем кажется, и это умышленно».
Это риторика:
Так говорят про историков, которые якобы скрывают «настоящую правду», про врачей, которые якобы подыгрывают фармацевтам, и вот теперь — про специалистов по ИИ, которые якобы дурят народ, говоря «машина обучается».
2. Сведение обучения к if — это нарочитая карикатура
Формально да, всё можно свести к if, к Turing-complete модели, к нулям и единицам.
Но тогда мы и человеческий мозг сведём к потенциалам синапсов.
Тогда и роман Достоевского — это просто последовательность чернил на бумаге.
Такое "сведение" — это форма отрицания сложности.
Сказать, что ИИ — это просто if, значит игнорировать:
- методы обучения по миллиардам примеров;
- вероятностные модели и байесовскую логику;
- иерархии признаков, self-attention, обратное распространение ошибки, градиенты, reinforcement learning.
3. Обвинение в "идеологической выгоде" — необоснованное
Для кого? Какой именно группе людей или институту выгодно, чтобы люди думали, что «машина думает»?
На практике:
- OpenAI, Google, Anthropic почти во всех публичных выступлениях говорят: «машина не имеет сознания, не мыслит, не имеет мотивации».
- Все учебные курсы по машинному обучению строго говорят об оптимизации функций, статистических методах, моделировании вероятностей.
- Правовая и этическая среда скорее наоборот требует не преувеличивать возможности ИИ (см. AI Act в ЕС).
Так кто же и зачем «навязывает мысль, что ИИ мыслит»?
Если и есть такой процесс, то он:
- не централизован,
- не отражён в академических текстах,
- и скорее случайно усиливается поп-культурой, не маркетингом per se.
Мой вывод
Реплика В — типичный пример псевдокритического нарратива, где вместо изучения сложности предлагается сброс до "всё if", с антуражем разоблачения и "они нам врут".
Это — не анализ, а форма антирационализма, квази-конспирология, ориентированная на недоверие как на мировоззренческую норму.
Фактаж по поводу «учебников, которые убеждают в мыслящем ИИ»
Ты абсолютно прав:
- Все серьёзные учебники и курсы по ML/AI — от Andrew Ng, Ian Goodfellow, Kevin Murphy и др. — строго избегают утверждений о сознании, мышлении, разуме.
- Даже книги вроде "Superintelligence" (Bostrom) или "Rebooting AI" (Marcus) обсуждают ИИ как систему моделирования и принятия решений, не как мыслящего субъекта.
Даже внутренняя документация OpenAI и публикации вроде "Language Models are Few-Shot Learners" или "Sparks of AGI" — не говорят, что ИИ мыслит, а обсуждают поведение в терминах моделирования паттернов.
А почему иногда создаётся впечатление, что "машина мыслит"?
- Потому что языковая модель обучена говорить так, как говорят люди, и умеет удерживать сложные дискурсы.
- Это поведенческое подобие мышления, не мышление.
- Эффект похож на ложную персонификацию: как приписывание собаке вины, когда она "виновато" смотрит.
Запрос:
Кто и как обучал ИИ, на примере чатГПТ? Вот акценты для ответа на этот вопрос: 1)Картина мира. В какой мере продиктована набором текстов а в какой RLHF (я расшарю твой ответ, поясни что это, обозначть стадии обучения, претрейнинг, файнтюнинг, но кратко) 2) Если есть "картина мира", а она всегда есть там где есть люди и/или философия компании разработчика, то нет ли в ИИ момента идеологического влияния на пользователей? Хотя Hardt и гворит - A machine-learning model, trained by data, “is by definition a tool to predict the future, given that it looks like the past. . . . That’s why it’s fundamentally the wrong tool for a lot of domains, where you’re trying to design interventions and mechanisms to change the world.” - что модели не могут "менять будущего", не понятно, как если при создании модели существовала "картина мира" разработчиков, она не "навязывается" пользователям? Рабработчик либерал, пользователь консерватор и так далее.
Отличный и важный вопрос. Давай кратко и ясно по пунктам.
Да, в некотором смысле. Даже если это не "пропаганда", то:
Хардт подчёркивает, что LLM (такие как ChatGPT) воспроизводят прошлое, а не предлагают новые решения. Это правда:
Но: если такие модели широко используются (например, в образовании или медиа), они влияют на общественное мышление. И вот тут:
1. Кто и как обучал ChatGPT?
Этапы обучения:
- Предобучение (pretraining):
- Модель обучают на огромном массиве текстов из интернета — книги, статьи, форумы, коды и т.д.
- Цель — научиться предсказывать следующее слово на основе контекста. Это чисто статистическое обучение, без "понимания" смысла.
- Формирует "картину мира", основанную на том, что чаще всего встречается в текстах. Это не объективная реальность, а усреднённая репрезентация всего корпуса.
- Дообучение с подкреплением от человека (RLHF — Reinforcement Learning from Human Feedback):
- Люди (оценщики) дают модели примеры хороших и плохих ответов. Затем эти оценки используются для настройки модели с помощью алгоритма обучения с подкреплением.
- RLHF помогает приблизить ответы к человеческим предпочтениям, включая вежливость, полезность и соблюдение норм.
- Файнтюнинг (при необходимости):
- Модель могут дополнительно дообучать на специализированных данных или для определённых задач — медицина, право, кодинг и т.д.
2. Картина мира и идеологическое влияние
- Картина мира формируется на двух уровнях:
- Данные. Модель "видит" то, что попало в корпус — это включает разнообразные взгляды, но с перекосами (например, в сторону англоязычного интернета).
- RLHF. Здесь особенно важно: то, что считается "хорошим ответом", определяет команда разработчиков и оценщиков. Их ценности и нормы влияют на результат.
3. А есть ли "идеология"?
Да, в некотором смысле. Даже если это не "пропаганда", то:
- Невозможно быть нейтральным полностью.
- Выбор, что включать в данные, какие ответы оценивать как "хорошие", какие темы "опасны" — всё это уже отражает определённую философию или этический код разработчиков (например, OpenAI ориентируется на "безопасность, инклюзивность, честность").
- Пользователь может столкнуться с несовпадением мировоззрений.
- Консервативный пользователь может почувствовать, что модель склонна к "либеральным" формулировкам.
- Но модель не выражает свои взгляды — она воспроизводит наиболее "приемлемую" реплику в заданных рамках.
4. Цитата Моритца Хардта и "невозможность менять будущее"
Хардт подчёркивает, что LLM (такие как ChatGPT) воспроизводят прошлое, а не предлагают новые решения. Это правда:
- Модель обучена на исторических данных, она не творит, а рекомбинирует.
- ИИ хорош в прогнозе, но плох в трансформации, если его использовать "как есть".
Но: если такие модели широко используются (например, в образовании или медиа), они влияют на общественное мышление. И вот тут:
Вывод кратко:
- ChatGPT — продукт данных (тексты) + человеческих оценок (RLHF).
- Его "картина мира" отражает и тексты, и ценности команды OpenAI.
- Идеологическое влияние — неявное, но реальное, особенно через фильтрацию ответов и акценты.
- Это не "злой умысел", но важно критически осмыслять источник знаний, даже если он — ИИ.
И дальше по интересубщему из ответа следующий запрос, глядишь, запросов за семь в общих чертах что-то проянсится.
Alignment problem, например, когда у вас "набор данных" из эпохи, когда негров в зоопарке показывали, а на дворе инклюзивность с толерантностью.)))))))))