Тема как раз была, а именно: может ли существовать ИИ, не использующий априорное знание. Нас в какие-то дебри увело разное понимание слов "априорное знание ". Вот мое понимание темы:
Представьте себе конструкцию, которая вообще ничего не зная о внешнем мире, и ничего от него не желая, изучает его. Допустим, чтобы в итоге выразить результат своего изучения в виде вербального знания (любого заранее заданного "протокола ", описывающего происходящее с ней), и передать это знание человеку.
Вопрос (и тема), как я ее понимаю, звучал так: какое минимальное количество априорной информации ей нужно, чтобы справиться с этой задачей? Слово "априорная информация " я понимаю так: что должно быть общего у всех тех "миров ", в которых такая система действует успешно?
--------------------------------------------------------------------------------
SDI 23 января, 19:28
2 Комбинатор
"В моём понимание знание, это умение предсказывать, пусть даже и лишь статистически "
Вот опять, для индивидуума понятие ЗНАНИЕ оказалось связано с понятием УМЕНИЕ предсказывать...-:)
Что ж, можно на этом остановиться...
--------------------------------------------------------------------------------
gen 23 января, 19:34
2 Комбинатор
>так и никакое описание работы этой системы с помощью человеческого языка не способно адекватно и в точности описать работу этих структур. Их работу можно пытаться лишь повторить на другой элементной базе... <
На мой взгляд, надо описывать не человеческим языком, а математическим:) и достаточно точно. Иначе нельзя будет повторить их работу на другой элементной базе.
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 19:36
> способы задания сенсорной информации и способы формирования из нее модели внешней среды
Ну, задавать её можно в произвольном виде. Например, как цепочку битов.
А для формирования - почему бы не использовать принципы, скажем, генетического программирования (или любые другие методы поиска в пространстве алгоритмов)? Определяя при помощи fitness-функции адекватность полученной модели исходным данным?
--------------------------------------------------------------------------------
Комбинатор 23 января, 19:38
2 gen
По поводу интуиции. На мой взгляд, в обоих случаях идёт перебор вариантов по каким-то признакам, которые человек не может явно формализовать. Иногда при этом мы, как и Фёйман, ошибаемся (как говорится - "извините, обознался "). К стати, множество зрительных иллюзий и картинок-перевёртышей построено именно на принципе создания для зрительной системы таких условий, когда возникает неоднозначность, или ложная гипотеза оказывается имеющей большую вероятность. Но, что примечательно, зрительная система всегда выбирает какую-то интерпретацию, пусть и случайнвм образом, то есть здесь тоже работает скорее перебор дерева вариантов, чем жёсткий алгоритм.
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 19:41
> может ли существовать ИИ, не использующий априорное знание
Разумеется, может. Априорное знание не нужно вообще - эволюция, например, прекрасно справилась и без него.
Всё, что необходимо - язык программирования и алгоритм оптимизации, вроде того же генетического программирования.
--------------------------------------------------------------------------------
gen 23 января, 19:41
2 Василий Семи-Булатов
>А для формирования - почему бы не использовать принципы, скажем, генетического программирования (или любые другие методы поиска в пространстве алгоритмов)? Определяя при помощи fitness-функции адекватность полученной модели исходным данным? <
Можно использовать любые методы поиска, вопрос в том, сколько времени будем искать?
Пока за 40 лет что-то ничего подобного даже первичным сенсорным системам мозга найти не удалось.
--------------------------------------------------------------------------------
SDI 23 января, 19:42
2 Андрей Плахов
Давайте поговорим о вопросах №1 у меня и Егорова... Обмен ответами на них мог бы быть очень полезен для всех "практиков ".
Хочу обратить внимание на одну особенность ЕИ, которая на мой взгляд актуальна как для ФИИ, так и задачи №1.
ЕИ имеет свойство изменять, подчас необратимо (неважно сознательно и нет) среду своего обитания. Возмите как пример эволюцию техносферы за последние 100 лет, (можно рассмотреть за любой больший промежуток времени). Другими словами меняются правила "игры " для ЕИ как в процессе развития индивидуума, так тем более всего существования общества... Думаю это свойство должно присутствовать и для ФИИ. Другими словами вопрос об интеллектуальности игровой среды принципиальный важности вопрос...
--------------------------------------------------------------------------------
Андрей Плахов 23 января, 19:44
>Василий Семи-Булатов
Проблема в том, что интересно было бы посмотреть на самостоятельное формирование системой этой fitness-функции... Среднеквадратичное отклонение от имеющихся данных не подходит, т.к. повторяемости в реальных условиях, как правило, нет, поэтому "обобщенность " модели тем самым не проверяется (проверяется "обученность ").
Чуть раньше (страниц 10-12 назад) здесь было обширное обсуждение того, как именно менять функции так, чтобы они оставались если не осмысленными, то хотя бы "валидными ", т.е. работающими без ошибок. Непонятным пока осталось, как сокращать поиск в классе функций (путем введения каких-то "маркеров смысла "?), как формировать новые функции, как избегать переобученности (вводить "меру сложности " функции и минимизировать ее тоже?)
--------------------------------------------------------------------------------
gen 23 января, 19:46
2 Комбинатор
>Но, что примечательно, зрительная система всегда выбирает какую-то интерпретацию, пусть и случайнвм образом, то есть здесь тоже работает скорее перебор дерева вариантов, чем жёсткий алгоритм. <
Могу Вас заверить, что ничего случайного в зрительной системе нет. Давже при интерпретации зрительных иллюзий. Ведь они тоже всегда интерпретируются одинаково и связаны с особенностями функционироания упомянутых программных механизмов.
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 19:47
> Можно использовать любые методы поиска, вопрос в том, сколько времени будем искать?
Согласен. Но ведь и эволюции потребовалось на решение этой задачи побольше, чем 40 лет.
--------------------------------------------------------------------------------
SDI 23 января, 19:49
SDI 23 января, 19:42
2 Андрей Плахов (продолжение)
...Другими словами вопрос об интеллектуальности игровой среды принципиальный важности вопрос...
Другими словами в этом варианте возможно создание ситуации, когда не будет существовать простой выиграшной стратегии игрока...
--------------------------------------------------------------------------------
gen 23 января, 19:53
Василий Семи-Булатов
>Априорное знание не нужно вообще - эволюция, например, прекрасно справилась и без него. <
Эволюция на каждом слудующем этапе использовала полезные признаки (сведения), полученные на предыдущих этапах. Иначе бы она шла по кругу.
--------------------------------------------------------------------------------
Андрей Плахов 23 января, 19:58
ОК, но как Вы представляете себе интеллектуальную среду? Я могу представить изменяющуюся среду, или сложную среду, или "растущую " среду, или среду с ояень большим количеством игроков... Как создать из этих "шаблонов " "среду, поощряющую интеллектуальное поведение ", не создавая для этого интеллекта? Ведь создание среды - для создания ИИ, а не наоборот.
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 20:04
> Проблема в том, что интересно было бы посмотреть на самостоятельное формирование системой этой fitness-функции...
Fitness-функцию должны задавать мы, а не система. Это - критерий адекватности модели, то, насколько точно она соответствует наблюдаемым данным, fitness-функция равна вероятности исходных данных для модели.
> как именно менять функции так, чтобы они оставались если не осмысленными, то хотя бы "валидными ", т.е. работающими без ошибок
Да, и сюда же можно добавить проблему останова - неизвестно, завершит ли вычисления произвольная функция вообще. Конечно, в общем виде эту задачу решить
невозможно.
Ну так и что с того? В GP, например, runtime-ошибки или игнорируются, или просто прибивают особь, а верхний предел времени работы жёстко задан. Есть и более правильные подходы.
--------------------------------------------------------------------------------
Комбинатор 23 января, 20:08
2 gen
В этом смысле, есть два направления. Одни - сторонники "реверсивной " теории надеются, что когда точность сканеров мозга достигнет разрешения, при котором можно будет считывать информацию о каждом отдельном нейроне, и его связях с другими нейронами, то можно будет делать создавать нечто типа электронных копий сознания каждого человека. Мне лично больше по душе функциональный подход школы Анохина, предлогающий изучать не конкретные нейроны, а некие достаточно универсальные и не зависящие от конкретной "элементной базы " приципы и алгоритмы функционирования мозга как системы обработки инфрмации и выработки соответствующих управляющих решенений.
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 20:09
> Эволюция на каждом слудующем этапе использовала полезные признаки (сведения), полученные на предыдущих этапах.
Согласен, эти сведения и можно назвать априорными знаниями, изменяющими пространство поиска в пользу более вероятных решений. Но ведь на первом этапе их не было вовсе.
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 20:09
> Эволюция на каждом слудующем этапе использовала полезные признаки (сведения), полученные на предыдущих этапах.
Да, эти сведения и можно назвать априорными знаниями, изменяющими пространство поиска в пользу более вероятных решений. Но ведь на первом этапе их не было вовсе.
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 20:10
Упс
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 20:13
> как избегать переобученности (вводить "меру сложности " функции и минимизировать ее тоже?)
А это, кстати, очень просто - мера сложности является просто размером функции в битах по отношению к некоторой машине.
--------------------------------------------------------------------------------
Андрей Плахов 23 января, 20:13
2 Василий Семи-Булатов
Fitness-функцию должны задавать мы, а не система
Вот поэтому я такую парадигму и не принимаю... Мы должны решить за систему, 1) что она будет моделировать, и
2) каковы наиболее важные признаки объектов
Это лишает ее какой-либо автономности даже в теории.
>Конечно, в общем виде эту задачу решить
невозможно.
Это мы уже обсуждали... В общем виде - невозможно. Но с некоторыми простейшими ограничениями (например, на размер кода) или с заменой "вообще " на "за разумное время " вполне возможно.
В GP время нахождения нужной функции слишком сильно растет с возрастанием минимальной сложности функции, решающей данную задачу. Это и есть основная проблема GP. Что с этим делать, еще пока непонятно.
--------------------------------------------------------------------------------
Иван FXS
supremum 23 января, 07:48
ИИ можно определить только через задачи которые он призван решить. Думаю, что такие задачи должны быть не алгоритмизируемые (иначе проще составить конкретный алгоритм).
" " " " " " " " " " " " " " " " " " " " " " " " " " " " " " "
Это - "не алгоритмизируемые " - как и любое другое АБСОЛЮТНОЕ отрицание, - не есть зело конструктивно ...
ИМХО достаточно уже сложно-алгоритмизируемости (или даже - просто СЛОЖНОСТИ) задачи, чтобы для ее решения было целесообразно применять что-то ИИ-подобное.
----------------------------------
Вот одна задача для которой я пытаюсь создать технологическое решение:
Необходимо осуществлять дискретное управление процессом. Процесс описывается в терминах событий и состояний (возможно нечетких). Управление осуществляется путем последовательного и параллельного выполнения дискретных операций. Набор доступных операций, наблюдаемых событий и состояний велик настолько, что можно считать его неограниченным. Управление многоцелевое. Целями управления могут быть задачи приведение/удержание процесса в целевых состояниях, генерации целевых событий. Дополнительной информации о процессе, кроме критичных ограничений на управление, отсутствует.
" " " " " " " " " " " " " " " " " " " " " "
Хорошая задача, только - не слишком ли общая постановка для начал "создания технологического решения "?
НП, Иван FXS
--------------------------------------------------------------------------------
Андрей Плахов 23 января, 20:16
>к некоторой машине
Хм-хм, к какой машине? Проблема в том, что считать элементарной операцией. Не думаю, что кол-во ассемблерных инструкций хорошо передает сложность функции... Скорее, это могла бы быть длина программы на чем-то вроде OCaml...
--------------------------------------------------------------------------------
Иван FXS
FV 23 января, 09:41
Как их описать через самих себя?
" " " " " " " " " " " " " " " " " " " " " "
Почему бы тогда не перейти СРАЗУ к обсуждению КЛАССИЧЕСКОГО "парадокса брадобрея " ( "бреется ли брадобрей, который бреет только тех, кто не бреет сам себя? "), - по крайней мере будет понятно, в каком году какого века мы находимся ... Зачем собственную БАНАЛЬНУЮ фактуру подкладывать??
НП, Иван FXS
--------------------------------------------------------------------------------
Андрей Плахов 23 января, 20:19
2 Иван FXS
По-моему, задача отличная (мой любимый виртуальный футбол - это ведь ее очень частный случай :). Многие проблемы на ней хорошо видны. Постановка станет "не слишком общей ", как только мы научимся такие задачи генерировать в большом количестве.
--------------------------------------------------------------------------------
Андрей Плахов 23 января, 20:20
Иван, не надо спорить с FV. По-моему, он отсюда уже ушел. Мы его обижали :)
--------------------------------------------------------------------------------
smollett 23 января, 20:22
2Все
Меня с этого форума постоянно встречным ветром сносит помогитеееееееееее
--------------------------------------------------------------------------------
Egg
2SDI:
привет, дружище!!! это ты или не ты?!? (впрочем у меня здесь плохая репутация, лучше сделать вид, что мы не знакомы)...
блин сколько вы постингов нагородили!!!! браво...
2Комбинатор: Вы не правы, а я Вам так верил! :-)
2gen, Inex - мне кажется, что мы стали понимать друг друга... снимаю свои занудные занудства и приношу запоздалые извинения...
2Плахов: про тестовую задачу отвечу, только прочитаю всё и дух переведу...
2smollett: расслабляйся и подключайся, без тебя меня здесь сожрут :-((((
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 20:29
> Мы должны решить за систему, 1) что она будет моделировать
Ну, прежде чем что-то искать, неплохо бы решить, что же мы хотим найти, верно? ИИ без целей не бывает.
И если мы желаем, чтобы ИИ построила адекватную модель действительности, то необходимо определить, что подразумевать под этой адекватностью.
> 2) каковы наиболее важные признаки объектов
Что вы имеете в виду?
> Это и есть основная проблема GP.
GP работает не оптимально, но это лечится. Впрочем, даже оптимально работающее GP проблемы бы не решило - чтобы тягаться с эволюцией, силёнок пока маловато.
Таким образом, без априорных знаний не обойтись - но структура, принцип построения ИИ должен быть таким, чтобы получить решение и автоматически, по крайней мере в принципе.
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 20:33
> Хм-хм, к какой машине?
К произвольной машине. Все универсальные машины отличаются друг от друга всего лишь на константный размер, равный размеру эмулятора к другой машине.
Так что можно взять за образец что-нибудь попроще - например, функциональное программирование.
--------------------------------------------------------------------------------
smollett 23 января, 20:37
2Андрей,Иван
Ну че ищем другой движок?
2Egg
>2gen, Inex - мне кажется, что мы стали понимать друг друга... снимаю свои занудные занудства и приношу запоздалые извинения...
Я говорил главное динамическая составляющая - в данном случае люди - ЕИ ежели народ с мозгами всегда че хорошее получится, вот и про кристалл поговорили и тд. и т.п. Вот я сам хотел многое сказать но за меня сказали. А хорошая тема - только провокация для ума. Это к разговору о априорной информации - априорная информация - провокация в чистом виде - запуск движка.
>2smollett: расслабляйся и подключайся, без тебя меня здесь сожрут :-((((
Ага, я тут между прочим на работе, я даже читать не успеваю :(((
--------------------------------------------------------------------------------
Egg
надо отметить, что обсуждение вошло в конструктивное русло (надо серьезно задуматься о том, какой именно вред я ему приношу...)
хочу заметить, что я нигде и никогда не говорил о вербальности/невербальности мышления... мы говорили о знании, а не о процессах его извлечения... но не будем возвращаться на круг дефиниций, это оказалось неполезным...
моя задача: есть текст... на ЕЯ... скажем достаточно большой - 25К... система имеет представление о символах (пусть это будет просто байт)... Какова должна быть архитектура системы, структуры внутри нее и механизмы обработки потока символов, чтобы она самостоятельно сделала вывод о существовании слов и сгенерировала определение слова и выделила все слова в тексте...
--------------------------------------------------------------------------------
Egg
2smollett:
работа - она здесь, остальное только средство заработать деньги на нотебук и интернет...
я принципиальный противник каких бы то ни было провокаций, это не честно, поверь провокатору... :-) а априорные знания - это просто нонсенс... если предполагать, что каждый нонсенс будет вызывать "плодотворную " дискуссию, то мы пожалуй до 10000 поста не доберемся до дела...
--------------------------------------------------------------------------------
Андрей Плахов 23 января, 20:43
2 Василий Семи-Булатов
>если мы желаем, чтобы ИИ построила
>адекватную модель действительности
В том-то и дело, что нам важнее не модель, а ее использование. И адекватность хотелось бы понимать не как "близость " в том или ином смысле, а как эффективность работы системы при использовании данной модели, то есть применимость. Причем желательно, чтобы систем могла оценить эту применимость модели раньше, чем начнет ее использовать...
Именно это я имел в виду, когда писал про "наиболее важные признаки объектов " - по каким параметрам близость модели к реальности сильнее всего влияет на ее применимость?
О константах.
Когда мы полтора года назад соревновались в чем-то вроде ГП для все того же футбола, мы выяснили, что не только константа 1000, но даже константа 8, если во столько раз отличается, например скорость эволюции, совершенно критична.
"Не думай
О константах
свысока,
Наступит время ... и т.п. "
--------------------------------------------------------------------------------
smollett 23 января, 20:45
2Aleph
>работа - она здесь, остальное только средство заработать деньги на нотебук и интернет...
я принципиальный противник каких бы то ни было провокаций, это не честно, поверь провокатору... :-)
.... то мы пожалуй до 10000 поста не доберемся до дела...
Ну спасибо успокоил, пойду шефу объясню, а то еще уволит нахрен. :)
--------------------------------------------------------------------------------
Egg
2smollett:
мыло шефа дай, я ему сам объясню, тогда не будет сомнений, что он тебя уволит... :-)
--------------------------------------------------------------------------------
smollett 23 января, 20:52
2Egg
Я те на твое мыло вышлю а то если шефу вдруг все с этого форума ченить объяснят так мене еще и посодют - то-то времени свободного будеть
--------------------------------------------------------------------------------
Комбинатор 23 января, 20:53
2 gen
> Могу Вас заверить, что ничего
> случайного в зрительной системе нет.
> Давже при интерпретации зрительных
> иллюзий. Ведь они тоже всегда
> интерпретируются одинаково и связаны с
> особенностями функционироания
> упомянутых программных механизмов.
Если Вы считаете, что результат распознавания всегда на 100% предсказуем, то вынужден с Вами не согласиться. В случаях, когда зрительная система попадает в ситуацию "буриданова осла " конкретное решение, ИМХО, случайно. Напроимер, когда одно лицо очень похоже на другое, и сигнал на входе соответствующего "узнающего " нейрона очень близок к пороговому, на факт узнавания-не узнавания влияет не меньше непредсказумых факторов, чем на факт выпадения монетки орлом или решкой.
--------------------------------------------------------------------------------
Василий Семи-Булатов 23 января, 20:53
> В том-то и дело, что нам важнее не модель, а ее использование.
А вот нам - наоборот :-)
> по каким параметрам близость модели к реальности сильнее всего влияет на ее применимость?
Если я вас правильно понял, то по балансу между адекватностью и сложностью/быстродействием/объёмом памяти/стоимостью и т.д.
К примеру, не имеет особого смысла использовать более точную теорию относительности там, где можно обойтись и ньютоновской, измерять в миллиметрах, если можно и на глазок, и т.д.
Exploration vs. Exploitation, так сказать.
--------------------------------------------------------------------------------
smollett 23 января, 20:58
2Егорыч
Будь другом сформулиру до чего доспорились на данный момент, ну твоя позиция ясна - нет априорных знаний, а другие че говорят? Коротко если.
--------------------------------------------------------------------------------
Egg
2smollett:
другие "говорят " следующее: формальные модели не имеют будущего... но еще не знают как это сказать, вот и придумывают всякие разности, о невербальном мышлении (а можно подумать, оно вебральным бывает, кто бы попробовал мыслить словами, в дурку бы сразу попал), о том, что знание и информация уже содержится где-то (а если это знание/информация чего мы понять-то его ни как не можем...) и все в таком духе... но двигаются, славно двигаются...
--------------------------------------------------------------------------------
SDI 23 января, 21:03
Например по ходу игры в зависимости от эффективности достижения промежуточной цели должны усложняться правила игры (не меняться, а именно усложняться) таким образом, чтобы достижение дальнейшией цели(ей) требовало усложнение поведения игрока...
--------------------------------------------------------------------------------
smollett 23 января, 21:05
2Egg
А ты как обосновал отсутствие априорной... напомни плз.(еще чуть-чуть и у меня мнение появится).
--------------------------------------------------------------------------------
Egg
Кстати, господа позитивисты, мог бы я услышать от вас объяснение такого феномена как зрительные иллюзии, например,
когда <--- > кажется меньшим >--- < ?
Это очень важный момент в ИИ... очень важный...
--------------------------------------------------------------------------------
Zveroboy 2 Lavanda 23 января, 21:08
к пропаже инкви - я никакого отношения не имею... мы очень мило пообщались в декабре... думаю будет после студенческих каникул... ну а что за инет-болтовню могут и убить - показал пример сухомлинова... и все свидетели - я 2 недели иросил просто ответить Знайку по поводу умершего форума ИИ... он нарушил интернет-этикет - не соблагоизволил ответить...
а сам требует ответов от других в ультимативной форме...
Так что меньше знаешь - лучше спишь... сорри если пытаясь ответить - напряг...
--------------------------------------------------------------------------------
SDI 23 января, 21:10
2 Egg
>привет, дружище!!! это ты или не ты?!? (впрочем у меня здесь плохая репутация, лучше сделать вид, что мы не знакомы)...
Как не странно это я...-:))
Читал этот форум не влезая в дисскусию (читаю давно и в курсе всех философских проблем), но когда начали говорить что ДНК обладает "знаниями " удержаться не смог...-:)
Что касается твоей репутации, то у меня она тоже уже сложившаяся, так что мнение других меня уже не сильно будет волнать...-:))
--------------------------------------------------------------------------------
Egg
2smollett:
да мы похоронили уже эту тему... :-) просто я, лично, считаю, что называть "знанием " все_что_попадется_под_руку не слишком корректно... в связи с тем, что знание есть продукт целенаправленной деятельности его не может быть априорным... просто парни, и великий Комбинатор имеют ввиду что-то совсем иное, чем знания... только сформулировать пока не могут...
--------------------------------------------------------------------------------
smollett 23 января, 21:11
2Egg
>феномена как зрительные иллюзии, например,
когда <--- > кажется меньшим >--- < ?
Это очень важный момент в ИИ... очень важный...
Че важного, прибор хреновый(я имею ввиду сенсор). Опыта жизненого мало, мозг на то и нужен чтоб от илюзий избавляться но не всем.
--------------------------------------------------------------------------------
smollett 23 января, 21:17
2Egg
Как там у классика и-я не материя и не ...., эт ладно, а вот есть ли связь у и-ии с этими двумя (ну акромя как через человека).
--------------------------------------------------------------------------------
Egg
2smollett:
сенсор здесь не причем... видит мозг, а не глаз... Хофман по этому поводу очень сильные модели задвигал... о том, что люди, имеющие растройства тактильных чувств почти всегда видят мир размытым... (!) во как... это тоже хороший тест... когда система начнет испытавать иллюзии, ее можно будет начинать называть интеллектуальной... :-)
Комментариев нет:
Отправить комментарий