to Egg
"угу... нет формального определения... я не требую, чтобы сгенерированную сущность Она назвала "словом ", пусть это будет сущность ID = 777, неважно...
Система не должна понимать, что мне нужно... система должна уметь обобщать и заниматься эволюцией своего понятийного пространства... "
Эволюция подразумевает отбор. Каков критерий полезности найденного понятия?
> По мимике вашего лица?
"я так понял, что это тонкая ирония :-))) "
Это возможный критерий отбора:) Улыбаетесь - вы удовлетворен работой системы, Хмуритесь - не удовлетворены:)
--------------------------------------------------------------------------------
Egg
2Андрей Finder Плахов:
только не нужно путать тестовую задачу и практическую :-))) конечно неэффективно... я же на тестовой задаче предлагал принципы изучать...
злые вы, не могу я найти с вами общий язык... давайте закончим обсуждать мою задачу... обсуждайте что-нибудь другое...
(справка: я не обиделся и никуда не ушел хлопнув дверью... тихо сижу работаю, благо ее немного пока, и читаю ваши посты...)
--------------------------------------------------------------------------------
Андрей Finder Плахов
Egg.
Если честно, по скорости переформулировки и усложнения на ходу условий, ты немного напомнил мне FV с его автораспечаткой...
Ну ладно, мне кажется, можно сойтись на том, что никто из нас не умеет решать твою тестовую задачу в том виде, в каком тебе хотелось бы. Больше того, я (и, насколько вижу, многие другие) считаю, что в таком виде она и неразрешима, а ты так не считаешь.
Давайте посему пока ее оставим. Пусть "отлежится ", мы все еще подумаем. Ок?
--------------------------------------------------------------------------------
Egg
2Андрей Finder Плахов:
это неправда... я ничего не усложнял и не переформулировал... до сих пор мы только уточняли используемые в задаче понятия... я же не предполагал, что формулировку "вывести понятие 'слово' " вы станете трактовать как то, что в системе есть формальное его определение :-))))
конечно, оставим... можем и не возвращаться... я получил всю необходимую информации по этому тесту...
--------------------------------------------------------------------------------
Наглый Змий 30 января, 12:17
Про слова и #20h.
Пробел обладает довольно забавными частотными характеристиками:
1.Высокая частота встречаемости (в русском тексте ок.40% символов).
Это гарантирует, что система им заинтересуется.
2.Распределение расстояния между побелами с ярко выраженным максимумом (на 5-6 для русского) и маленькой дисперсией. Это дает основание считать поток между пробелами самостоятельным объектом.
3.Некоторые символы встречаются только перед пробелами. Значит, они тоже являются какими-то сущностями.,!
Пока все это писал, пришел товарисч и обломал. Оказывается, китайцы пишут без пробелов :))
--------------------------------------------------------------------------------
Иван FXS
Уфффффф ... нужно признать, что коллега Egg произвел ВЗРЫВ форума ;-) Написано участниками СРАЗУ столько, что разобраться АРТИКУЛИРОВАНО во всех НЮАНСАХ высказанных позиций - абсолютно не представляется возможным ...
НП, Иван FXS.
--------------------------------------------------------------------------------
NO <контакт> 30 января, 12:36
Egg:
Вашу задачу решают все алгоритмы компрессии текста, лучший из которых ppm. Более мощные фрактальные методы интереснее смотрятся на сжатии изображений, но работают ужасно медленно.
--------------------------------------------------------------------------------
Андрей Finder Плахов
2No, Наглый Змий.
Увы и ах, он имел в виду не статистический анализ, и не алгоритмы сжатия... Когда ему говорили о них, он уточнил задачу так, что эти методы перестали работать. И вообще все, что я знаю, перестало работать...
Мое мнение: ИИ, даже Егоровский "ИИ-изучающий ", невозможен без определенной цели. Нельзя сказать, "выделил он понятие " или нет, если неизвестно, как он потом им хочет пользоваться.
--------------------------------------------------------------------------------
NO <контакт> 30 января, 12:45
И объективности ради нужно отнести к разделителям букву "о ", которая делит слова вроде "многОкоренные ", это, кстати, подсказал компьютер :).
--------------------------------------------------------------------------------
Андрей Finder Плахов
Иван, что значит слово "АРТИКУЛИРОВАНО "?
--------------------------------------------------------------------------------
Иван FXS
"АРТИКУЛИРОВАНО " - это (имхо) что-то типа "по полочкам разложить "?
--------------------------------------------------------------------------------
Egg
вот чудесная иллюстрация по поводу уточнения постановки задачи (взято из А. Соловьева 'И Ш К У Ш Ш Т В Е Н Н Ы Й И Н Т Е Л Л Е К Т'):
- Какие могут быть формальности между друзьями! Вася, сделай мне
программу сортировки.
- А что такое сортировка?
- Мне надо, чтобы я вводил любые числа, а программа выдавала
УПОРЯДОЧЕННЫЕ числа.
(через неделю)
- Ты что, Вася! Я ввожу 5 4 7 6, а твоя программа выдает 1 2 8 9.
- Так бы и сказал, что она должна использовать ВВЕДЕННЫЕ числа.
(через неделю)
- Ты что, Вася! Я ввожу 5 4 7 6, а она выдает 4 5 6.
- Так бы и сказал, что ВСЕ числа должны присутствовать.
(через неделю)
- Ты что, Вася! Я ввожу 5 4 7 6, а она выдает 4 5 6 7 и 8 и 9.
- Я выдал все, а от себя ДОБАВИЛ, по дружбе, чтобы ты от меня отстал,
наконец.
(через неделю)
- Ты что, Вася! Я ввожу 5.4 и 7.6, а она даже два числа отказывается
сортировать.
- А откуда я знал, что тебе НЕ ТОЛЬКО целые надо сортировать?
Может тебе завтра взбредет комплексные сортировать?! Последний раз!!!
(через неделю)
- Ты что, Вася! Программа больше девяти чисел не сортирует...
... И ВАСЯ!
--------------------------------------------------------------------------------
Наглый Змий 30 января, 13:15
2Андрей Finder Плахов
>Увы и ах, он имел в виду не статистический анализ, и не алгоритмы сжатия... Когда ему говорили о них, он уточнил задачу так, что эти методы перестали работать. И вообще все, что я знаю, перестало работать...
Имеется в виду уточнение про конечность текста и отсутствие априорной информации о существовании слов?
Ну так я и показал, как в этих условиях найти сущность ID=777 на основе стат.анализа :)
>Мое мнение: ИИ, даже Егоровский "ИИ-изучающий ", невозможен без определенной цели..
Кажется, не так давно предлагалась двухступенчетая системка якобы для поиска инвариантов, где первая часть в виде убогой сетки кохонена ищет закономерности, а вторая часть ею пользуется для достижения своей цели, якобы аппроксимации функции.
Егоровская задачка и есть первый блок этой схемы. Ей не особо нужна вторая часть, ее задача - искать закономерности. А искать она их может и стат.анализом, и динамическими ядрами, и с использованием эвристик(собственных или от третьих сторон).
--------------------------------------------------------------------------------
Egg
2Наглый Змий & 2Андрей Finder Плахов:
я не говорил, что стат.анализ "перестал " работать... в лоб он не применим, как механизм кластеризации... это я и показал... а без стат.анализа обойтись нельзя... ибо статистика - это единственная информация о "внешнем " мире для ИИ...
--------------------------------------------------------------------------------
Андрей Finder Плахов
Нет, не про конечность текста. А про то, что решатель должен найти слова даже в том случае, когда на вход подается построчная развертка сканированной страницы текста :(
--------------------------------------------------------------------------------
Egg
2Андрей Finder Плахов:
конечно должен найти... разве понятие слово меняется от того, каким носителем оно представлено...
мне показалось, три дня назад здесь много говорили об инвариантах :-)))
--------------------------------------------------------------------------------
Egg
2Андрей Finder Плахов:
я подчеркнул, что это УСЛОЖНЕНИЕ задачи... просто очень хороший тестовый пример на универсальность полученного решателя... Наглый Змий правильно сказал - "ее задача - искать закономерности "... есть нюанси некоторые, но не существенные...
--------------------------------------------------------------------------------
Андрей Finder Плахов
Я старался говорить об инвариантах, как о математически представимых вещах, а не как о "предмете изучения тралялялогии ". Инвариант - это _группа_, сохраняющая _функцию_. А в задаче о входном потоке неизвестного вида это пока черт-те что.
PS. Прошу сегодня меня не считать модератором, и не обижаться на возможные резкости. Я очень злой, это ко всем вам не относится, но по тону постингов может быть заметно :(
--------------------------------------------------------------------------------
Egg
> А в задаче о входном потоке
> неизвестного вида это пока черт-те что.
это единственная задача, которая вам будет встречаться в жизни... :-))))
--------------------------------------------------------------------------------
Наглый Змий 30 января, 13:49
2Андрей Finder Плахов
В любом случае сначала должны быть выделены сущности (символы и группы символов), обладающие существенно отличающимися от всего текста стат.характеристиками. Видимо, без этого двигаться дальше невозможно. И если их выделить нельзя (например - все слова без пробелов и встречаются по одному разу:/) то задача представляется неразрешимой.
И уже на следующем этапе можно искать стат.характеристики взаимного расположения выделенных сущностей.
По крайней мере для человеческих текстов.
>...даже в том случае, когда на вход подается построчная развертка сканированной страницы текста :(
Возможные варианты - книжка сканируется по диагонали и с картинками:) а потом зипуется с паролем и подается на вход:))
--------------------------------------------------------------------------------
Андрей Finder Плахов
>это единственная задача, которая вам будет встречаться в жизни...
Я в курсе.
О, я понял, в чем дело, и почему мне не нравится "развертка ".
Входной поток должен базироваться на понятии времени (линейный порядок входа должен быть согласован с временным порядком). Мое мнение, что ИИ не может быть построен без этого. Иначе попытки искать внутреннюю структуру бесполезны. А в случае развертки любой 0-1 может "влиять " на любой другой. Соответственно, никакого статистического анализа в этом случае быть не может.
А ведь
>без стат.анализа обойтись нельзя... ибо статистика - это единственная информация о "внешнем " мире для ИИ... <
--------------------------------------------------------------------------------
Egg
мы, вообще-то, договорились закончить обсуждение этой "задачи "...
> Входной поток должен базироваться на
> понятии времени (линейный порядок входа
> должен быть согласован с временным
> порядком). Мое мнение, что ИИ не может
> быть построен без этого. Иначе попытки
> искать внутреннюю структуру бесполезны.
> А в случае развертки любой 0-1
> может "влиять " на любой другой.
> Соответственно, никакого
> статистического анализа в этом случае
> быть не может.
непонятно почему входной поток связан со временем... вообще непонятно... думаю, это неверно...
а что касается статистики, то она вполне ыть применена... Например, может существовать понятие "связности " сигналов... только в случае восстановленного изображения она будет минимальной...
но я согласен, что экзотические способы упаковки входного сигнала приведут к тому, что нам будет нужен бесконечный ресурс на его реконструкцию...
было бы, конечно, интересно обсудить именно это - влияние "формы " сигнала на процесс реконструкции, но видимо это относится к "тралялялогии ", поэтому мы не станем этого делать...
--------------------------------------------------------------------------------
Андрей Finder Плахов
>влияние "формы " сигнала на процесс реконструкции, но видимо это относится к "тралялялогии " <
Почему же к тралялялогии? Это, как раз, могло бы быть вполне разумное обсуждение.
>непонятно почему входной поток связан со временем...
ОК, выскажу мысль чуть шире. Должно быть известно, как именно устроена метрика на потоке. Какие сигналы "близки " друг к другу? Если мы будем знать, что сигнал - построчная развертка 2d-изображения, т.е. знать, что части сигнала, отличающиеся на длину строки, "близки ", то это может заменить нам понятие "времени ".
--------------------------------------------------------------------------------
Андрей Finder Плахов
Зря я вообще сказал про время. Линейность метрики важна, а не понимание этой линейности как времени. И больше того, важна не то чтобы сама линейность, а именно известность этой метрики для нас.
--------------------------------------------------------------------------------
Иван FXS
Наглый Змий 30 января, 13:49
> В любом случае сначала должны быть выделены
> сущности (символы и группы символов), обладающие
> существенно отличающимися от всего текста
> стат.характеристиками. ...
> И уже на следующем этапе можно искать
> стат.характеристики ...
" " " " " " " " " " " " " " " " " " " " " " " " " " " " " " " " " "
Позвольте с Вами не согласиться. Статистическая "предобработка " вовсе не является обязательной: в принципе, черный ящик должен уметь и сам ее делать ...
НП, Иван FXS.
--------------------------------------------------------------------------------
Андрей Finder Плахов
Иван, я так понял, Наглый Змий писал именно о том, что "ящик " сам ее и делает.
--------------------------------------------------------------------------------
Inex 30 января, 15:21
to > Egg
Очень понравилась Ваша задача своей простой формулировкой. На ее примере очень хорошо раскрывается мой первый вопрос об (гыыыыыы) априорных знаниях. :))
--------------------------------------------------------------------------------
Иван FXS
Коллеги, я позволил себе выступить ... тут, по соседству:
http://www.membrana.ru/forum/main.html?thread=1043929387
Загляните, пожалуйста ;-)
НП, Иван FXS.
--------------------------------------------------------------------------------
Андрей Finder Плахов
АААА!!
Ну зачем, зачем растаскивать форум на thread'ы, если все равно нет возможности сделать связи между ними?
Иван FXS. Это, я думаю, была не самая удачная идея (я имею в виду начинать новую тему, а не "создавать запоминалку ").
--------------------------------------------------------------------------------
Андрей Finder Плахов
Inex,
я свое мнение о а$%&*ых знаниях (sorry) высказал бы так:
Единственное а$%&*ное знание, которое нам нужно - топология входного потока, т.е. какие (предположительно) части сигнала "близки " в том или ином смысле друг к другу. Без этого не обойтись, а с этим все остальное выяснить так или иначе возможно (но потенциально очччень долго).
--------------------------------------------------------------------------------
Inex 30 января, 15:57
to > Андрей
> >топология входного потока. Без этого не обойтись, а с этим все остальное выяснить так или иначе возможно (но потенциально очччень долго). < <
А почему Вы топологию входного потока отделяете от "всего остального "? А если входной поток может быть трансформирован любым преобразованием из некоторого класса, неужели для данного класса преобразований задача будет неразрешимой? То есть, у нас не такая ситуация, что топология либо определена, либо нет. Существует довольно плавный переход от полной детерминированности к полной неопределенности. Когда неопределенность стремится к бесконечности, то и сложность алгоритма, и минимальная необходимая длина входных данных будет стремиться к бесконечности.
С другой стороны, "все остальное " тоже может меняться крайне сильно. Вы же неявно накладываете серьезные ограничения. Например, символы не зависят от контекста и т.д. И в пределе время работы и необходимая длина текста тоже могут стремиться к бесконечности.
Так что вот.
--------------------------------------------------------------------------------
Иван FXS
Андрей Finder Плахов 30 января, 15:33
> АААА!!
> Ну зачем, зачем растаскивать форум на
> thread'ы ...
" " " " " " " " " " " " " " " " " " " " " " " " " " " "
Андрей, сорри, я-то как раз - наоборот - постеснялся перегружать Форум-по-ИИ "смежной " тематикой ... Если Вы, как "держатель идеи " данного Форума, сочтете (посовещавшись с Народом) эти темы совместными - я ничего не имею против! ;-)
НП, Иван FXS
PS. Кстати, говоря, аккуратно (и - вовремя) расставляемые гиперссылки - вообще стирают все "границы " ... Ну или - почти все ;-)
--------------------------------------------------------------------------------
Андрей Finder Плахов
>Вы же неявно накладываете серьезные ограничения. Например, символы не зависят от контекста и т.д. <
Я не совсем понял, почему накладываю такие ограничения? Можно пример случая, когда "символы зависят от контекста "?
--------------------------------------------------------------------------------
Андрей Finder Плахов
2Иван FXS
Извини, я зря "раскричался ". Все ты сделал правильно, это не совсем по теме ИИ. Просто я недостаточно внимательно прочитал твое описание идеи.
--------------------------------------------------------------------------------
Иван FXS
"символы зависят от контекста " - таковы, например, все грамматические ошибки ...
--------------------------------------------------------------------------------
X 30 января, 16:27
>Иван FXS
Насчет юникода Вы не совсем правы, там бывают и 3 байтовые последовательности, вообще юникод расширяем на любое количество языков и символов, поэтому нет явного ограничения длины кодовой последовательности.
>Egg
Давайте вместо усложнения, лучше упростим задачу. Пусть в систему вообще не заложено никаких априорных знаний кроме целевой функции "выделять и классифицировать то что в нее попадает ". Слово "символ " система тоже не знает, однако в ее природе заложена естественная дискретность (биты,байты,последовательности), и функционирует система согласно этой дискретности.
Дальше. Открываем Дао-Дэ-Дзин параграф 15. "...мельчайшие и тончайшие вещи... их глубина не ведома. Поскольку она неведома, Я произольно даю им описание... "
Другими словами система по своему расклассифицирует все и сопоставит с новыми последовательностями(новыми сущностями), которые она также сгенерит для обозначения классов. Но у нее нет задачи переводить все это для Вас.
Вам придется самостоятельно овладеть искусством перевода с неизвестного тарабарского языка на свой. :)
Это отдельная задача.
Как построить классификацию входящих данных уже подробно обсудили. Методов очень много и их выбор непринципиален!!! Хоть всеми сразу пользуйтесь.
>По поводу НЕ УНИВЕРССАЛЬНОСТИ генетического алгоритма(читай отбора, мутагенеза и эволюции) не согласен. Может быть этот принцип не эффективен для современных технологий и ресурсов(и то не факт), но универсален для природы в целом. Это проблемы субъекта, может он или не может преобразовать задачу в "генетический " код, но решение уже 3-4 млрда лет как найдено.
--------------------------------------------------------------------------------
Иван FXS
Все-таки есть слова в следующей последовательности символов, или их там нет:
"символов нет слова последовательности там следующей Все-таки или в есть их "
????
--------------------------------------------------------------------------------
Inex 30 января, 16:53
to > Андрей
> >Я не совсем понял, почему накладываю такие ограничения? Можно пример случая, когда "символы зависят от контекста "? < <
В том-то и дело, что в стандартных ЕЯ таких случаев почти нет (для нашего же удобства). Поэтому Вы подразумеваете, что их нет совсем (и не будет). А вот Вам пример. Вы пишите текст, разделяете слова пробелами, а для перевода на другую строку ставите символ возврата каретки (а этот символ может вообще быть длиной в 2 байта). Или разделяете некоторые слова табуляцией.
А если Вы подаете на вход программе текст, к символам которого был тупо применен оператор XOR. Да у Вас двух "одинаковых " пробелов после этого не встретится.
И после этого Вы говорите, что достаточно ограничений лишь на "топологию "? Нееет. Вы неявно накладываете огромнейшую кучу других ограничений.
--------------------------------------------------------------------------------
Андрей Finder Плахов
Inex
Хм... Не уверен, что я их накладываю
Впрочем, я бы разделил свое сообщение на 2 части:
Сильная (в этом я уверен):
< <известна топология входного потока, т.е. какие (предположительно) части сигнала "близки " в том или ином смысле друг к другу. Без этого не обойтись > >
Cлабая (в этом я уверен не настолько)
< <с этим все остальное выяснить так или иначе возможно > >
--------------------------------------------------------------------------------
X 30 января, 16:59
>Egg
>непонятно почему входной поток связан со временем... вообще непонятно... думаю, это неверно...
"ИИ ", "Мышление ", "Изучение " "Входной " и "поток " это понятия неразрывные со "временем ". Сама последовательность символов "один за другим " подобна течению времени. Для одномерного времени - поток одномерный, для ... ну вы меня понимаете...
--------------------------------------------------------------------------------
Наглый Змий 30 января, 16:59
2X
>По поводу НЕ УНИВЕРССАЛЬНОСТИ генетического алгоритма(читай отбора, мутагенеза и эволюции) не согласен... но решение уже 3-4 млрда лет как найдено.
То решение, которое найдено 3-4 млрд лет назад, не имеет ничего общего с генетическими алгоритмами. Потому что обладает важной способностью - изменение размера генетического кода. В современных ГА этого нет и быть не может. Потому что ДНК определяет не параметры организма, а закон его формирования. Потому-то этот код может претендовать на универсальность.
А в существующем виде ГА, как уже говорилось, просто один из методов градиентного спуска.
Кстати, эволюция сделаа свой выбор - от ДНК и ГА диких зверюшек к бумаге и ручке с логикой и университетом.
Предлагаю пока забить на эволюцию, ибо это неконструктивно.
>Слово "символ " система тоже не знает, однако в ее природе заложена естественная дискретность (биты,байты,последовательности)...
:)
--------------------------------------------------------------------------------
X 30 января, 17:21
>Наглый змий
Переменная длина ген кода не противоречит принципам GA. Постоянная длина это только один из вариантов решения.
--------------------------------------------------------------------------------
X 30 января, 17:24
В современных ГА это может быть, а в будущих так подавно.
--------------------------------------------------------------------------------
X 30 января, 17:42
>Наглый змий
>Потому что ДНК определяет не параметры организма, а закон его формирования. Потому-то этот код может претендовать на универсальность.
А в существующем виде ГА, как уже говорилось, просто один из методов градиентного спуска.
Это зависит от задачи. Если Вам позарез нужно реализовать градиентный спуск методами GA то вы разрабатываете соответствующий ген-код. Но кто запрещает написать код для изменения законов формирования самого ген-кода, определяющего новые дополнительные параметры? Это и есть усложнение организации.
--------------------------------------------------------------------------------
Иван FXS
х, не спорьте с Наглым змием: позиция "просто один из методов градиентного спуска " - непрбиваема!
Любой выбор-по-критерию - это, как мне недавно объяснили, "градиентный спуск "!
--------------------------------------------------------------------------------
Inex 30 января, 17:53
to > Андрей
> >
< <известна топология входного потока, т.е. какие (предположительно) части сигнала "близки " в том или ином смысле друг к другу. Без этого не обойтись > >
< <с этим все остальное выяснить так или иначе возможно > >
< <
Давайте так. Набор символов (текст) - это то, что поступило с сенсора. Считаем, что сенсор не вносит "принципиальных " искажений (пространственных и временных) при отображении "физической реальности ". Считаем, что ИИ согласован с сенсором (то есть, он понимает формат данных последнего).
Теперь далее. Если символы во входной последовательности расположены "рядом ", то это значит, что они и в "физической реальности " расположены "рядом ". Это назовем сохранением топологии. Возможность определения понятия "рядом ", назовем "знанием " этой топологии. То есть, минимальными необходимыми априорными знаниями Вы назвали знание о существовании пространственных (временных) отношений во входных данных? (блин, вспоминается гносиология Канта с его категорическим императивом) Если так, то первым Вашим утверждением я согласен.
Однако, не согласен со вторым, так как "физическая реальность " может быть настолько сложна, что она будет соответствовать нарушению первых двух введенных условий (о сохранении топологии).
--------------------------------------------------------------------------------
SDI 30 января, 18:08
2 Egg
Даа... за 5 часовое отсутствие появилось более 50 постингов и принято решение эту тему закрыть...-:)
Ну ладно, закрыть так закрыть...
--------------------------------------------------------------------------------
Egg
2SDI:
мы можем продолжать обсуждать эту задачу келейно (сепаратно)... либо в форуме на моем сайте, либо письмами... а только "за ", просто мне показалось, что я достал уже всех обитателей нашего ИИ-клуба своей тралялялогией... :-(
--------------------------------------------------------------------------------
SDI 30 января, 18:39
2 Egg
>просто мне показалось, что я достал уже всех обитателей нашего ИИ-клуба своей тралялялогией... :-(
Из прочитанного мне так не показалось (всем сорри это мое личное мнение)...
Я вижу проблему не в том, чтобы система выделила понятие "слово " (ID=777), а в том чтобы далее она его использовала для развития своих понятийных и аналитическых возможностей... например создала понятие предложение...-:)
--------------------------------------------------------------------------------
smollett 30 января, 18:41
2Egg
>Нормальная лаконичная задача, нынадо комплексовать.
2Андрей
>Единственное а$%&*ное знание, которое нам нужно - топология входного потока
Задача деиствительно имеет отношение к априорным знаниям которых как мы между прочим большинством голосов доказали нет в природе.
А на счет тупологии сигнала как вы ее собрались задавать? в каких терминах(я имею ввиду при наличии отсутствия а$%&*хххх знаний).
Злые вы все как сказал Егорыч. :)
Комментариев нет:
Отправить комментарий