рефераты конспекты курсовые дипломные лекции шпоры

Реферат Курсовая Конспект

Проектирование знания

Проектирование знания - раздел Военное дело, Расторгуев с.П. Информационная война. — м: радио и связь За Сто Лет Стирается Надпись На Могильном Камне, Но Сказанные Слова Тысячу Ле...

За сто лет стирается надпись на могильном камне, но сказанные слова тысячу лет остаются теми же.

Китайская пословица


Оглавление шестой части

ЧАСТЬ ШЕСТАЯ

Проектирование знания

Введение 331

Глава 29. Прогнозирование поведения информационных систем 180

Глава 30. Текущее знание как структура процесса 186

Глава 31. Мир подобных структур 188

Глава 32. Преобразование структур 191

Глава 33. Хаос в принятии решения 193

Глава 34. Устойчивость знания 196

Глава 35. Проблема проектирования устойчивых информационных систем 198

35.1. Эволюция знания 198

35.2. Возможности системы через возможности по преобразованию ее структуры 200

35.3. Постановка задачи на проектирование структуры информационнойсистемы 202

Глава 36. О том, что осталось за кадром или по чуть-чуть обо всем 205

Выводы 209


Введение

Не ищи счастия за морем. Благодарение Всевышнему, что нужное Он сделал нетрудным, а трудное— ненужным.

Г. Сковорода

Проблема прогнозирования поведения информационных самообучающихся систем достаточно сложна. Понятно, что даже охватить всю ее в рамках данной книги, посвященной информационным войнам не представляется возможным.

Понятно, что точность прогнозирования поведения информационных самообучающихся систем — это и есть в некоторой степени точность информационного оружия. Поэтому ничего не сказать об этой проблеме было бы в корне неправильно, тем более что методы предсказания местонахождения привычных нам технических средств, например, тех же ракет «земля-земля» или «земля-воздух», в основе которых лежат работы Винера, принципиально отличаются от подходов к прогнозированию поведения сложных информационных самообучающихся систем: людей, народов, человечества.

Прогнозируемость (управляемость) поведения информационной системы определяется тем. какие знания сохраняются и развиваются, а какие скрываются и уничтожаются.

Любое знание находит свое отражение в соответствующей структуре. Поэтому-то гибель одних подструктур и появление других определяет изменение знания системы.

Структуры возникают везде, где возникает знание, являя собой проекцию знания в материальный мир. Способ хранения знания — это структура. Атом и молекула, мозг человеческий — в основе так или иначе — структуры. Коллектив, имеющий общую цель, при достижении которой члены коллектива взаимодействуют друг с другом, — это тоже структура, возникающая и продолжающая себя на первый взгляд произвольно, подобно корням деревьев, переплетаясь в причудливых извивах. Та же корневая структура деревапредставляет собой знания дерева о питательных соках земли, на которой оно растет.

Во всех названных системах в процессе их функционирования порой происходят структурные изменения, которые принято называть катастрофами. Многие катастрофы классифицированы в такой дисциплине как «Теория катастроф» Тома и имеют достаточно романтические названия, типа «Ласточкин хвост». Предлагаемая в данной главе модель не претендует на полноту и строгость, имеющую место быть у авторов классической теории катастроф. Цель данной части работы в том, чтобы на простых примерах продемонстрировать то, что происходит со структурами, носителями знании при целенаправленном информационном воздействии на них извне. Почему это важно?

Как уже говорилось выше, любая информационная самообучающаяся система представляет собой структуру: статическую, динамическую, самомодифицируемую, с изменяемыми связями между элементами, с изменяемым количеством элементов и др. И для того, чтобы защитить информационную систему, в первую очередь надо защищать ее структуру. Каким образом это можно сделать?

Структуры бывают разные. Одну достаточно легко обезопасить от внешних разрушающих воздействий просто в силу ее особенностей, другую же защищай— не защищай— нечаянный внешний толчок, и она рассыпется, словно карточный домик, как в сказках Э.По:

«Половины такого блаженства узнать

Серафимы в раю не могли, —

Оттого и случилось (как ведомо всем

В королевстве приморской земли), —

Ветер ночью повеял холодный из туч

И убил мою Аннабель-Ли».

Какой смысл защищать информацию, циркулирующую в системе, если система сама беззащитна? Поэтому в дальнейшем речь пойдет о защите систем, о поиске интегральных характеристик структур, о жизни и смерти структур.


Глава 29 (1). Прогнозирование поведения информационных систем

Подобно тому, как лодку уносит сильным ветром, так и одно единственное чувство, завладевающее человеком, способно унести прочь его разум.

Бхагават-гита как она есть

Зеркало способно отразить любое лицо, попадающее в него. Видеокамера позволяет захватить любой физический образ и тоже отразить его, подобно зеркалу, но только на экране телевизора. Видеокамера и телекоммуникационная среда уже могут перенести запечатленную картинку практически в любую точку земли в режиме реального времени. Но, несмотря на внушительные расстояния, мы по прежнему имеем дело по существу с тем же самым зеркалом, отражающим сегодняшнее в сегодняшнее, и не более того. Включение компьютера с соответствующей математикой и базой знаний в эту схему отражателей позволит отражать в сегодняшний день завтрашние события. Вот тогда появится возможность изучать дела грядущих дней, выбирая наиболее приемлемые, и отталкивать все то, что пугает своей неоднозначностью или отдает принципиальным неприятием по каким-либо причинам.

Фантазия сразу же услужливо рисует картину города, уходящего на ночной покой и мерцающего пятнами своих окон, за которыми сидят миллионы нуждающихся в измененном будущем и выбирающих для себя, словно рубашку в магазине, завтрашний день. Но день, каким бы не выбрали его миллионы желающих, выбирая каждый для себя, все равно будет один на всех. Только заказывать этот один на всех день будет тот, у кого самая мощная вычислительная техника, у кого самое эффективное программное обеспечение для моделирования, у кого самые точные модели, у кого самые точные знания о поведении элементов исследуемых систем.

Какие же принципы должны лежать в основе моделей,способных прогнозировать события, связанные с функционированиеминформационных самообучающихся систем? Или уже кроме того, что предлагают на сегодняшний день классическая кибернетика и теория систем, больше рассчитывать не на что, а можно только уточнять знаки после запятой в точности полученного прогноза?

Что ни говори, а принципиальное отличие в подходах к прогнозированию поведения обучающихся систем от неспособных к обучению заключено в коренном различии областей определения входных переменных и областей значения выходных результатов. У большинства сложных информационных самообучающихся систем области определения и значения входных/выходных переменных образуют события, происходящие внутри системы и вокруг ее, а также ее собственные поступки. Все эти события никак не получается, а может быть и невозможно, выстроить по ранжиру, упорядочить, нацепить на них на всех одинаковую униформу и заставить рассчитаться на первый-второй. У каждого события свои родители, которых вполне может быть много больше двух, и свои потомки, порой совершенно непохожие друг на друга.

Нет в множестве событий единых мер, подобных силе тока в проводах, метрам в пространстве, секундам во времени. Внесение в него причинно-следственных связей [57], казалось, должно было позволить, наконец, начать решать определенные практические задачи, превратив множество событий в полноценное пространство со своей метрикой. Но обладает ли свойством непрерывности подобное пространство? Ведь именно для непрерывного пространства математические методы наиболее действенны. А если нет, что скорее всего, то что тогда делать? Каким должен быть масштаб (значимость) у событий и поступков? Можно ли его динамически менять?

В условиях дискретности множества возможных поступков, каждый поступок имеет свое название, начало и конец во времени и пространстве, более того, существуют поступки, обусловленные не предыдущим часом, а событиями прошлогодней давности в условиях отсутствия явной причинно-следственной связи (событие, явившееся для одной из систем причиной, для другой— вообще невидимо). В этих условиях все опыты по построению моделей прогнозирования поведения людей [57] и не могли дать приемлемых для практики результатов.

На основании полученных выводов в предыдущих частях данной работы, основное направление решения задач прогнозирования поведения самообучающихся систем представляется несколько иным, чем для технических систем, — не от причин к следствиям, а от целей к поступкам. При этом поступки персонажей, которые они могли бы совершить в интересующем исследователя времени t, для достижения цели в t + At, берутся из множества поступков, совершенных до момента t, т.е. они черпаются из всего предыдущего опыта, как бы выбираются из базы знаний. И это вполне логично.

Прогнозирование поведения информационных систем, именно как информационных систем, опирается в первую очередь на информацию аккумулируемую этими системами, т.е. на знания систем. В конце-то концов любая информационная система ведет себя, как правило, в соответствия со своими знаниями: умеет плавать — лезет в воду, умеет драться — лезет в драку Если система умеет «что-то», то в ситуации, где это знание необходимо, именно этим "что-то" она и воспользуется. Ниже предлагается простой, но красиво художественно оформленный К.Чапеком пример прогнозирования поведения социальных систем, основанный именно на этом принципе.

В рассказе К.Чапека «Похищенный документ № 139/VII ОТД.С» у полковника генерального штаба ночью из дома похитили секретный документ, взятый им на выходные дни для работы. Сейфа дома не было, и, предполагая, что шпионы никак не вздумают лезть в кладовку, он как раз там, в жестянке из под макарон, спрятал документ на ночь. Однако ночью неизвестный забрался в кладовку и похитил именно эту жестянку.

К поиску был привлечен весь громадный секретный аппарат контрразведки страны.

Но документ нашел рядовой сыщик из местного участка по фамилии Пиштора. Ниже приведен ход его мыслей:

«Пиштора с интересом оглядел кладовку. - Ну да, — сказал он удовлетворенно, — окно открыто долотом. Это был Пепик или Андрлик.

—Кто, кто? — быстро спросил полковник.

—Пепик или Андрлик. Их работа. Но Пепик сейчас, кажется, сидит. Если было бы выдавлено стекло, это мог бы быть Дундр, Лойза, Новак, Госичка или Климент. Но здесь, судя по всему, работал Андрлик.

— Смотрите не ошибитесь, — пробурчал полковник.

—Вы думаете, что появился новый специалист по кладовкам? — спросил Пиштора и сразу стал серьезным. — Едва ли.

Собственно говоря, Мертл тоже иногда работает долотом, но он не занимается кладовыми. Никогда. Он обычно влезает в квартиру через окно уборной и берет только белье. — Пиштора снова оскалил свои беличьи зубы. —Ну так я забегу к Андрлику».

Пример хоть и с долей иронии, но полностью в русле русской народной пословицы из трех слов: «Горбатого могила исправит».

Продолжим исследование.

Исходными данными для построения прогнозной модели поведения конкретных информационных самообучающихся систем предлагается взять:

1) собственные цели исследуемой системы и окружающих ее систем;

2) заданные внешней средой цели исследуемойсистемы и окружающих ее систем;

3) поступки, совершенные в прошлом;

4) события, вносимые в модель исследователем. Именно события, вносимые исследователем, и являются тем штурвалом, с помощью которого

осуществляется управление системой в неспокойном море информационных течений;

5) структуры, элементом которых даннаясистема является, цели структур, задачи, условия существования структур, элементови связей между ними.

Теперь попробуем проиллюстрировать сказанное примером. При этом желательно, чтобы пример мог быть спроецирован на перечисленные выше координатные оси исходных данных. Понятно, что пытаться выбрать в качестве главного героя, например, Гарри из романа Г.Гессе «Степной волк» бессмысленно, в силу его невключенности в работу каких-либо структур того времени и отсутствия связей с окружающими элементами (особенно в начале романа), используя которые можно было бы управлять Степным волком. Позднее они появляются и этим пользуется Г.Гессе, в противном случае ему писать-то было бы не о чем.

Если уважаемый читатель оглянется на свою жизнь и подвергнет ее тщательному анализу путем вспоминания, как советует дон Хуан, и при этом обратит особое внимание именно на события, связанные с реализацией тех или иных целей, то выяснится, что для каждой существовавшей цели всегда были соответствующие события, способные привести систему в состояние достижения цели. Тропинки были всегда, но не всегда ими удавалось воспользоваться. Причем, что характерно, регулярная мыслительная подпитка цели приводила к увеличению доли соответствующих событий. Понятно, что эти события не вызываются целью — они только проявляются ею, делаются видимыми. Поэтому здесь речь идет исключительно о возрастании доли видимых событий через призму заданной цели.

Однако, больший успех всегда был в том случае, когда не человек шел к цели, а сама цель шла к человеку, т.е. человек подчинял себя цели, становился ее рабом и послушно исполнял то, что от него требовалось. Тогда среди веера событий, которым каждое мгновение мир обмахивает человека, выбор уже будет осуществлять не человек, а цель — руками этого человека. Что для этого надо?

Достаточно стать «безупречным воином» по терминологии дона Хуана. В чем логика этой безупречности?

Она в самоустранении от генерации новых целей, которые способны помешать, т.к. не дать одной цели реализоваться способна только другая цель.

Наличие взаимопротиворечивых целей— это трагедия для любой самообучающейся информационной системы. Параллельная реализации взаимопротиворечивых целей неизбежно приводит к тому, что функционировании системы отчетливо прослеживаются поступки, как бы нейтрализующие друг друга. А если ни одина из этих целей не преобладает и нет причин способных разрушить их, то это настоящая трагедия для информационных системы. Буриданов осел говорят умер от того, что пытался минимизировать свои действия в условиях противопложных, но равнозначных ограничений. Наличие двух естественных желаний не делать лишнего шага съесть большую охапку соломы - обрекло беднягу на самоуничтожение.

Для того, чтобы цель оставила систему в покое, она должна превратиться в правило, т.е. быть достигнутой. Только тогда правило может быть уничтожено. Уничтожить правило способно другое, правило или факт, противоречащий этому правилу.

Однако, после того как цель превратится в правило, и это правило будет уничтожено, ничто не мешает ей заново возникнуть и заново прокрутить все колесо Сансары. Именно так утверждается в Бхагават-гите:

«Созерцая объекты чувств, человек развивает привязанность к ним, из привязанности рождается вожделение, из вожделения возникает гнев.

Гнев порождает полное заблуждение, заблуждение затмевает память. когда память в затмении, пропадает разум, а когда разум потерян, человек вновь падает в колодец материального мира».

Зачастую все в жизни информационных систем происходит в полном соответствии со сказанным, что и позволяет провестиих классификацию в зависимости от процессов, протекающих в пространстве целей.

Здесь видятся следующие пять вариантов.

Вариант 1:

1) возникает цель;

2) цель превращается в правило, т.е. достигается;

3) правило разрушается другими правилами или фактами;

4) из обломков разрушенной структуры опять возникает цель, часто та же самая, что была и раньше: еда, сон, женщина. Реализованная цель встает из пепла разрушенных правил подобно сожженной птице Феникс.

Именно так и проходит день за днем для живущихэтими целями информационных систем.

Вариант 2:

1) рождается i цель;

2) цель с номером i не успевает превратиться в правило, как i становится больше на единичку и управление передается на пункт 1. В результате цели растут словно грибы после дождя, они нагромождаются друг на друга мешают друг другу, вызывая сбои в работе информационной системы.

Для человека подобное развитие событий довольно часто заканчивается визитом к психиатру, а для компьютерной системы — перегрузкой.

Вариант 3 представляет собой полное отсутствие целей. Отсутствие целей блокирует поведенческую деятельность, информационной системы, а тем самым разрушает ее стольже эффективно, как и избыток целей.

Довольно часто к этой ситуации приводит систему работа ее собственных механизмов безопасности, способных предельно точно выполнять задачу по уничтожению лишних собственных или навязанных из вне целей.

Вариант 4:

1) возникает цель;

2) цель достигается;

3) возникает новая цель, для которой достигнутая ранее цель становится вспомогательным правилом.

Движение постоянно и неотвратимо идет исключительно в одном направлении; в том направлении, которое порождают реализованные цели. Подобное движение напоминает течение ручья. Он течет туда, куда проще просочиться, но всегда — сверху вниз.

Вариант 5:

1) возникает цель;

2) цель достигается;

3) возникает новая отличная от предыдущей и никак не связанная с ней цель.

Итого, имеем пять возможных вариантов «движения» информационной системы:

1) первый — равномерное движение по одному и тому же отрезку, бег по кругу;

2) второй — ускоренное хаотическое движение в границах круга;

3) третий — отсутствие движения;

4) четвертый — постоянное движение в одном направлении;

5) пятый — движение в различных направлениях. В результате весь процесс познания для информационно-самообучающейся системы в соответствии с описанными вариантами может быть охарактеризован следующим:

1) вариант 1 — отсутствует или очень слабая собственная внутренняя перестройка, накопление знаний практически не происходит, но система вполне справляется с решением ограниченного круга привычных для нее задач;

2) вариант 2 — система не в состоянии ничему обучиться;

3) вариант 3 — система не в состоянии ничему обучиться;

4) вариант 4 — идет постоянное углубление познания в какой-либо одной области;

5) вариант 5 — идет углубление познания в различных областях деятельности.

Еще раз вернемся к исходной постановке задачи на прогнозирование ведения информационных самообучающихся систем и попытаемся определить ключевые понятия, связанные с прогнозированием. Что означают применительно к самообучающейся системе следующие термины: прогнозирование, управление, наблюдение? Какой единицей можно измерять точность прогноза?

Интересно, что для технических линейных систем ответы на все перечисленные вопросы давно получены.

Информационную самообучающуюся систему назовемтотально управляемой, а поведение ееполностью прогнозируемым на интервале времени [to, t1], если известен алгоритм информационного воздействия (например, методика обучения), позволяющий привести систему в любой момент времени te [to, ti] к требуемому от нее результату (поступку) х.

Информационную самообучающуюся систему назовемчастично управляемой, а поведение еечастично прогнозируемым, на интервале времени [to,t1] если известен алгоритм информационного воздействия, позволяющий привести систему в некоторый момент времени te [to, t1] к требуемому от нее результату (поступку) х.

Информационную самообучающуюся систему назовемполностью наблюдаемой на интервале времени [to,t1], если известен алгоритм, позволяющий на основании анализа текущего состояния системы в момент времени t1, определить доминирующее информационное воздействие, направленное на нее в любой момент времени te [to, t1].

Информационную самообучающуюся систему назовемчастично наблюдаемой на интервале времени [to, t1], если известен алгоритм, позволяющий на основании анализа текущего состояния системы в момент времени t1, определить отдельные информационные воздействия на интервале времени [to, t1], приведшие ее к этому состоянию.

Примером полностью наблюдаемой системы является человек на страшном суде, где, только взглянув на него, представитель Неба способен огласить весь список добрых и злых деяний за интервал времени от рождения и до смерти.

Примером частично наблюдаемой системы являются персонажи Конан Дойля, приходящие к Шерлоку Холмсу за помощью. Анализируяих внешний вид, Холмс безошибочно определяет отдельные внешние воздействия, связанные с этими людьми, например: «Судя по вашему указательному пальцу, вы предпочитаете крученые папиросы» («Собака Баскервилей»).

Точностью управления информационной самообучающейся системой илиточностью прогнозирования ее поведения назовем величину временного интервала между планируемым временем получения требуемого от нее результата (совершения ею соответствующего поступка) и действительным.

Для классических линейных систем существует т.н. критерий управляемости, который позволяет сделать однозначный вывод о возможности управления той или иной линейной системой. Для любой информационной самообучающейся системы, выбираемой из всего множества самообучающихся систем, подобный критерий в принципе существовать не может. Однако, для систем, использующих для обучения какое-то подмножество обучающих алгоритмов, вполне допустимо существование некоторого аналога вышеназванного критерия.

Попробуем его поискать.

Однойиз внешних особенностей функционирования самообучающейся системы является отсутствие строгого однозначного соответствия входного сообщения выходному результату. Даже если внешний наблюдатель добросовестно зафиксирует все реакции системы на все возможные входные данные; он не сможет гарантировать, что при тысячекратном повторении системе звука «ом», она вдруг не увидит в этом звуке совершенно иных смыслов.

Кроме того, самообучающиеся системы интересны еще и тем, что даже в том случае, если п объектов обучаются одним и тем же учителем по одной и той же программе, т.е. учитель оказывает на всех своих учеников одно и то же информационное воздействие, однако знания у всех будут различны не только по существу, но и по формальным критериям (бальные оценки экзаменаторов).

В чем в данном случае причина различия знаний?

Предположим, что эти причины в следующем:

1) в способности к усвоению знания, которое определяется механизмами работы памяти. В рамках модели Р-сетей — это в первую очередь информационная емкость системы и «жизненная сила» ее элементов. В рамках ЦПФ-модели— видимость входных данных. Зачастую все то,что вещает учитель, совершенно невидимо для ученика. Ясно, что в подобной ситуации и самый способный ничего освоить не сможет,

2) в целях системы. В рамках модели Р-сетей — это распределение связей между элементами. В ЦПФ-модели — вопросы, сформулированные для системы.

В условиях сделанных предположений поиск критерия управляемости поведениеминформационных самообучающихся систем следует проводить среди целей системы и ее способностей к усвоению знания. При этом понятно что цели системы и ее способность к усвоению знания достаточно плотно коррелируют между собой и определяются возможностями структурных преобразований системы. Найти критерий управляемости—это значит выработать правило, на основании которого можно судить о возможности создания алгоритма информационного воздействия (методики обучения) для конкретной информационной системы. О разрешимости данной проблемы уже говорилось в первой части работы. Было показано, что проблема во многом сводится к информационной стабильности, к тому, какие процессы структурных преобразований превалируют в системе: изменение связей (возможности влияния элементов друг на друга), уход одних элементов без замены (разрушение структуры и потеря части функциональных возможностей), приход других (создание новых подструктур и появление новых функциональных возможностей).

Гибель одних подструктур и появление других в основном и определяют изменение знания системы.

Таким образом, управляемость определяется тем. какие знания сохраняются и развиваются, а какие скрываются и уничтожаются.

Технологии уничтожения знания к сегодняшнему дню проработаны достаточно хорошо.

1. Уничтожение документальных хранилищ знания— книг. Одним из зачинателей этого направления считается Первый китайский император— строитель Великой китайской стены, предавший огню все до него написанные книги. При этом выявленные укрыватели древних манускриптов использовались в качестве грубой рабочей силы при строительстве великой стены, отгородившей часть земли от мира. Император действовал с размахом, уже тогда, возможно, понимая, что именно информационные процессы опаснее всего. И решения он видел простые и правильные:

а) отгородиться стеной из камня в пространстве;

б) отгородиться стеной из огня во времени.

2. Уничтожение живых носителей какого-либо знания. Если перечислять исторических персонажей, решающих проблему именно таким образом, то не хватит и страницы.

3. Перепрограммирование носителей знания. Этот прием тоже Достаточно древний. Первоначально он базировался на захвате в плен детей и их cooтвeтcтвyющero воспитания. Но если раньше на это уходили годы, а порой Десятилетия, при этом в качестве исходного материала требовались дети, то сегодня для решения подобной задачи с помощью такого инструмента, как средства массовой информации, достаточно нескольких месяцев и взрослые люди превращаются из строителей капитализма в строителей коммунизма и наоборот.

Обсудив способы уничтожения и сокрытия неугодного знания, есть смысл остановиться на проблеме создания, продвижения и сохранения угодного знания.

Основные направления.

1. Создание (рождение) и программирование носителей знания.

2. Перепрограммирование носителей «чужого» знания.

3. Переписывание истории. В смысле масштабности деяний по модификации истории, согласно [67], вряд ли кто в мире способен конкурировать с династией Романовых, перекроившей под свои интересы всю предыдущую историю Российской империи. В свете рассматриваемых моделей переписывание истории позволяет изменить существующие у системы цели и навязать новые. Вот только на долго ли?

Судя по тому факту, что история регулярно переписывается, особенно в России, можно предположить под третьим направлением солидную историческую, а может быть даже генетическую, базу. Практически каждый, вновь пришедший в России к власти, смешивает с грязью не только своего предшественника, но и подменяет у общества имеющиеся к тому времени ценности.

4. Фиксация и сохранение документальных хранилищ знания: книг, фильмов, технологий; создание персонажей в виртуальном мире, типа японской Киоко Дате.

Интересно, что в целом человечество пытается преодолеть неопределенность управляемости и прогнозирования, изобретая нетрадиционные способы защиты собственной независимости и самостоятельности. Самым древним способом защиты стала письменность. Документы, архивы хранят в себе знания умерших людей. Хранение этих знаний — это попытка противостоять операции удаления элементовиз системы Причем, чем качественнее реализована в системе защита от операции удаления. тем больше шансов, что для данной системы проблема перспективности, а значит и проблема невидимости станут разрешимыми. Но, перейдя в деле защиты информации от уничтожения определенный порог, возникнет уже несколько другая информационная самообучающаяся система, для моделирования которой, возможно, больше подойдут С-сети, а не СР-сети.

Этому же процессу служит регулярное переписывание истории. Что может быть проще, чем перекрасить нейтральные, невозражающие объекты в цвета своей команды.

Любое историческое исследование— это решение криптографической задачи. Результат полностью определяется тем, какой в руках исследователя криптографический ключ.

Для того, чтобы показать как подобное возможно практически, не будем трогать глобальные исторические теории, ориентированные на человечество, а остановимся на отдельно взятом человеке, на автобиографических работах Карлоса Кастанеды. Одно из направлений работы над собой, согласноучению дона Хуана,

героя К.Кастанеды, заключается в решении задачи по вспоминанию. Воспоминание — это восстановление невидимого знания. Вспомнить себя от дня сегодняшнего до колыбели — как раз и означает обрести способность видеть все,т.е. обрести полноту, увидеть все щели, по которым энергия покидает человека, и понять все возможности по собственному восприятию мира. «Дон Хуан дал мне ясные и детальные указания о перепросмотре, тоявшие в том, чтобы еще раз проживать всю совокупность жизненного опыта, вспоминая всевозможные детали прошлых переживаний. Он видел в пересмотре надежный способ для перемещенияи переосмысления энергии» (К.Кастанеда.«Искусство сновидения»).

А что касается хождений но темному густому пространству времени с отдельными светлыми пятнами, то для решения этой задачи «...дон Хуан предложил мне новую методику для перепросмотра. Мне предстояло разгадать нечто вроде головоломки, составляя второстепенные с виду события моей жизни так, чтобы из мелких разрозненных кусочков получилась цельная картина» (К.Кастанеда. «Искусство сновидения»). А это уже значит то, что в случае успеха получится новая информационная система.

Искусство составления из элементов собственной жизни целостной картины всегда проповедовалось и проповедуется современной наукой. Настоящая кандидатская, а особенно докторская диссертация — это целостная картина, собранная из отдельных теоретических и практических результатов, полученных диссертантом в своей жизни. Ее написание это поиск — что с чем можно склеить. Совсем как в детстве, когда из отдельных разрисованных со всех сторон кубиков надо было сложить картину с изображением животного или растения. Только с возрастом картины становятся разнообразнее и непонятнее.

Кроме уже сказанного, дополнительно следует отметить, что именно Карлос Кастанеда первым отважился более менее строго сформулировать критерий управляемости (прогнозирования) информационной самообучающейся системы. В его терминологии критерий звучит так:

"В случае, когда вони обладает в полной мере контролем,дисциплиной и чувством времени, выдержка гарантирует - то, что грядет неизбежно найдет того, кто этого заслуживает".

Присутствующие в приведенном выше критерии ключевые понятия определены у него следующим образом:

Дисциплина - способность собирать необходимую информацию, в то время, как тебя постоянно колотят.

Чувство времени - способность точно вычислить момент, в который все, что до этого сдерживалось, должно быть отпущено.

Выдержка означает сдерживание с помощью духа того, в неизбежном приходе чего воин полностью отдает себе отчет.

Современные телекоммуникационные, компьютерные технологии это следующий серьезный шаг человечества в деле защиты собственной независимости. Умершие Архимед и Шекспир становятся не менее реальными и более доступными, чем пока еще живые Иванов, Петров, Сидоров. Происходит фиксация уровня смертей и начинается«воскрешение мертвых». Один раз погибнув, они уже помогли человечеству в получении нового знания и теперь возвращаются из глубины веков опять, для того чтобы общество было способно продолжать познавать мир.

Почему не растут открытия в химии и физики с такой же скоростью, как это делается в сфере вычислительной и телекоммуникационной техники?

Они просто не нужны, так как меньше чем кибернетика связаны с будущим человечества.

А компьютеры нужны, потому что они обеспечивают воспроизводство виртуальных людей!

Поэтому-то через «неделю, другую» (три-четыре года), несчастный старик отправляется к золотой рыбке за новым компьютером, позволяющим сменить платформу: перейтииз разряда «черной крестьянки» в разряд «столбовой дворянки».

Но «черная крестьянка» не становится красивее и не становится умнее в результате своих превращений.

В сказке А.С.Пушкина блага, сыплющиеся от золотой рыбки, делают старуху высокомерной, предоставляя возможность развития той ее части, которая ранее, в окружении разбитого корыта, ни на что и не претендовала.

Легко ли спрогнозировать поведение взбалмошной старушки?

Любой ребенок совершенно свободно после первых путешествий старика к синему морю предскажет результат следующего похода.

Если известна цель субъекта (в данном случае — власть) и способы ее достижения (достаточно послать старика к золотой рыбке), которые ранее давали благополучный исход, то проблем с точностью прогнозирования не возникает.

Проблемы возникают с самой системой. Следуя логике, она должна и дальше изменяться в соответствии с уже отлаженным алгоритмом, но вдруг «ничего не сказала рыбка», и вот уже сидит его старуха, «а перед ней разбитое корыто».

Может быть, что кроме цели и способов решения задачи прогнозирования, надо знать — будет ли система способной функционировать в новых условиях, которые возникнут в результате произведенного ею же действия? Устоит ли система под градом камней от вызванной на собственную голову лавины?

Ответить на эти вопросы не так-то просто. Предсказать поведение сложнее самомодифицируемой системы в условиях, когда она не включена в разворачивающийся сюжет, когда за ней не закреплена соответствующая роль, когда у нее отсутствуют собственные базовые целеустановки, вообще, невозможно. Интуитивно представляется, что задача предсказания связана и с сюжетом, и с полью, и с базовыми целями. А удовлетворительно решать эту задачу, используя логический подход, можно только на том интервалевремени, где все выше перечисленное имеет место быть.


Глава 30(2). Текущее знаниекак структура процесса

Однажды вступив на путь созерцания человеку больше ничего не надо делать. Все остальное сделает притяжение Бога.

Ошо Раджниш

В этой книге не прослеживается поименованный главный герой способный рискуя жизнью исследовать лабиринты собственной Судьбы и Судьбы человечества. Но на определенном уровне абстракции он, безусловно присутствует. Раз у него имеются родители, которых вполне можно тад именовать, то есть и он сам. Родители любой информационной самообучающейся системы — это его величество Процесс и ее величество Структура.

О Структуре было уже много сказано в первой части работы. Ио том, чтоу нее красивое имя, и о том, что она и есть Знание. Нознаниемертвое,законсервированное подобно тушенке в банке или тушемамонта в вечной мерзлоте.

Тут должен прийти принц, склониться над спящей царевной, тогда она оживет и сможет отвечать на вопросы. Более того, сможет продолжить и себя, и пришедшего принца в потомстве, формируя и передавая словно эстафетную палочку генетическое знание, т.е. принцип генерации структуры, похожей на себя.

Сама Структура пришла к своему осознанию из человеческого языка, из речи, из рассказа у костра, где один Первобытный с большой буквы объяснял другому Первобытному с большой буквы, как пройти к дереву, дающему большие и сочные плоды. Возникнув, она уже была интересна тем, что пыталась аккумулировать знания, находя им место в себе, почти также, как это делает губка, всасывая воду, или конденсатор, поглощая электрическую энергию.

Было и есть такое направление в философии и языкознаниикак структурализм. Именно в этой пауке впервые речь пошла о мире (сознании) как о месте, в котором находятся взаимосвязанные развивающиеся ряды структур, где культура или искусство представляют собой «структуру структуры Ян Мукаржовский сформулировал для любого произведения искусства два важнейших понятия: преднамеренность и непреднамеренность. Первое у него являло ту силу, которая соеденяет воедино отдельные части и придает смысл любому произведению, представляя собой в искусстве семантическую энергию.

В нашей трактовке информационных самообучающихся систем преднамеренность трансформировалась не во что иное как в цель.

Все то, что для субъекта, воспринимающего произведение, сопротивляется в произведении этому объеденению, все то, что нарушает смысловое единство названо Муражковским непреднамеренностью.

Непреднамеренность - это то, что современниками воспринимается как ошибка.При этом ошибка имеет тенденцию к росту.Она постоянно растет. И через какое-то время все произведение становится одной большой ошибкой, а потом вобще теряет первоначальный смысл и преобретает совершенно другое прочтение, особенно если данное произведение являет собой исторический материал.

Непреднамеренность присуща не только произведениям искусства, но и любому продукту человеческого труда.

В нашей трактовке в приложении к информационным самообучающимся системам непреднамеренностьэто не что иное как ветер, сбивающий ракету с пути, призрак, прячущийся за деревьями и заманивающий путника в ловушку,ошибки, проникающие в любое достаточно емкое програмное обеспечение ЭВМ.Это сила внешнего по отношению к выделенной системе воздействия, находящая свое измерение в погрешности самообучающейся системы при реакции на входную информацию.

Вот так и жила-была Структура — одна одинешенька. Принцы для нее стали появляться в шестидесятых годах нашего столетия. Но появляться они стали достаточно агрессивно, выступая сразу под лозунгами типа «Мир — это процесс», а кто не согласен — будьте добры подвинуться. Структура подвинулась.

Но процессы могут существовать только в структуре, на структуре и за счет структуры.

В результате произошло проявление факта постоянной встречи главных персонажей, они получили прописку и относительную независимость в человеческом коллективном разуме.

Процесс стал искать свою материализацию в виде весомой микросхемы соответcтвyющero микропроцессора, про которую никак не скажешь, что ее нельзя увидеть и потрогать. Структура же, наоборот, от зримого порядка, с которым она всегда олицетворяется, сделала шаг в зыбкий мир связей различных полей баз данных, хранящихся на магнитных носителях.

В результате, с одной стороны возникли однопроцессорные и многопроцессорные вычислительные комплексы и компьютерные программы для них.

С другой — различные структуры для хранения данных: древовидная, сетевая и табличная.

Для таблиц была разработана серьезная математика, позволившая реляционным СУБД выйти победителем на рынке СУБД. И все потому, что в абстрактной алгебре было показано, как для определенного рода структур (пока только таблиц) выполняются удивительные вещи. Оказывается табличные структуры можно объединять, пересекать и каждый раз будет получаться новое знание, которого как бы и не было раньше. Мало того, доказанные теоремы гарантируют, что в результате подобных действий вновь рождающиеся структуры являются истинными для той модели мира, в которой мы и творим свои чудеса. Важность данного результата трудно переоценить. Еще бы: знания можно складывать, разбирать, а потом опять собирать в виде удобных для работы табличек. И они не портятся и не теряют свой товарный вид.

Следующим шагом, позволившим увидеть за тактовой частотой микропроцессора управляющую им структуру, стал шаг, определивший революцию в программировании, благодаря которому оно даже называться стало иначе и превратилось вструктурное программирование, в котором только слепой не увидит положенную в основуструктуру процесса.

В явном виде было продемонстрировано, что любой процесс тоже обладает структурой и никуда от нее он никогда не денется.

Однако, на столь безапелляционное заявление можно возразить: «А как же логическое программирование? В программе на языке Пролог нет никаких структур, но тем не менее того, что есть вполне достаточно, чтобы порождать процессы!»

Все дело в том, что языки логического программирования в большей степени ориентированы на описание имеющих место быть фактов, правил поведения и целей, которые есть у создателя программы. Но связи между элементами подобных программ спрятаны от зрителя. Они есть, они как бы заново рождаются каждый раз по определенным законам при активизация программы, а при достижении цели опять умирают. Получается, что Процесс как бы порождает Структуру, будит ее, заставляет ожить, заиграть всеми своими лабиринтами в поисках пути к поставленной цели; а наигравшись, засыпает сам и вместе с собой уносит очарование поиска цели в растворяющейся паутине дорог.

Программа — это способ представления знания о том.что и как надо делать. Иногда, в случае языков логического программирования остается только «что», потому что «как» скрыто на уровне транслятора или интерпретатора.

И если мы в своей жизни к чему-то стремимся, чего-то желаем, но не знаем как этого достичь, то это совсем не значит, что этого не знает тот интерпретатор, который переводит наши цели в мир наших действий. Было б, как говорится, желание.

О том как подобный интерпретатор может работать - это отдельный разговор. Сейчас важно отметить, что ничто не мешает подобному интерпретатору существовать либо в области коллективного бессознательного в "структуре структур" человечества, либо в области индивидуального бессознательного, в хаосе стремящихся к независимости структур собственного подсознания.

В свете сказанного любопытно наблюдать за развитием в мире программного обеспечения текстовых процессоров. Тексты создаваемые ими, становятся все более активными, приобретая спосбность влиять на окружающую их среду.


Глава 31 (3). Мир подобных структур

Несмотря на бесконечность многообразия и красочности внешних форм Проявления и свойств отдельных частностей, в их сущности продолжает оставаться нечто перманентное, только в различных условиях дающее себя различно чувствовать и различно проявляющееся во вне.

В.Шмаков

До сих пор в данной работе самозарождающиеся и саморазрушающиеся структуры рассматривались лишь исходя из возможности их применения в качестве самообучающихся систем. А для этого исследовались алгоритмы самомодификации, позволяющие осуществить аккумуляцию в результирующей структуре знания об окружающем мире на базе входной обучающей выборки.

При этом в стороне осталась задача поиска у подобных структур каких-либо интегральных характеристик. В частности, интересен вопрос о том, какими количественными или качественными параметрами можно охарактеризовать структуры:

—обладающие наибольшей устойчивостью к окружающему воздействию (речь идет именно о структуре, а не о ее элементах);

— в наибольшей степени тяготеющие к саморазрушению или самовозрождению;

— обладающие максимальным или минимальным знанием. Но и кроме того, хотелось бы получить ответ на вопрос: «А что могут означать понятия: «минимальное знание» и «максимальное знание»?

В качестве основного постулата было принято, об этом шла речь в предыдущих главах, чтознание информационной системы выражается через ее структуру. Тогда для оценки количества воспринятой системой информации логично использовать такое понятие как степень модификации структуры входными данными. Изменились весовые коэффициенты нейронных связей одна информация, погибли или появились новые элементы— другая информация.

При этом было показано в первой части работы, что истинность знания определяется жизненной силой его носителей, т.е. жизненной силой элементов структуры (жизненная сила— показатель способности элемента противодействовать внешней силе, т.е. новому знанию).

Прежде чем сделать следующий шаг. вздохнем глубже и еще раз повторим— носителем знания является структура.

Чем можно охарактеризовать структуру?

В качестве характеристик структур предлагается определить:

1) количество элементов;

2) общее количество связей между элементами;

3) распределение связей между элементами:

4) «жизненная сила» элементов системы;

5) операции, выполняемые элементами (алгоритмы функционирования элементов).

Как можно записать информацию о структуре? Предлагается следующая форма описания структуры с именем А:

A:{a1(a i,aj, ak,..), a2(), a3(),...an(), ...(1)

a1:: =<операции, выполняемые первым элементом, — алгоритм, записанный на одном из известных языков программирования>

ai:: =<операции, выполняемые i-ым элементом, — алгоритм, записанный на одном из известных языков программирования>

an:: =<операции, выполняемые n элементом, — алгоритм, записанный ва одном из известных языков программирования> здесь:

ai — номер элемента;

n — общее количество элементов;

i≤n, j≤n, k≤n;

в круглых скобках перечислены номера элементов, с которыми Дивен тот элемент, чей номер записан перед открывающейся скобкой.

Приведем примеры описания структур.

Иногда требуется в описании структуры указать «жизненную силу»ееэлементов. В этом случае значения показателя «жизненная сила» проставляется в виде индекса над номером элемента, например:

треугольная форма — {11(2, 3), 22(1, 3), 3200(1, 2)}.

Легко показать, что при небольшой детализации предлагаемая форма описания структуры и запись алгоритмов па языках высокого уровня станут эквивалентным. Введена была данная форма записи исключительно для удобства преобразования структур и поиска наиболее уязвимых мест техжеалгоритмов и программ, составляющих базу информационного оружия.

Существуют различные способы сравнения структур.

Равенство структур. Две структуры будем называтьравными, если описание одной из них можно наложить на описание другой и они совпадут, вплоть до совпадения значений «жизненной силы» элементов. При этом алгоритмы работы совпавших элементов являются равносильными.

Алгоритмы назовем равносильными, если по одинаковымвходнымданным они будут выдавать совпадающие результаты.

Две структуры назовем почти равными, если описание одной из них можно наложить на описание другой и они совпадут, при этом разница между значениями жизненной силы элементов, имеющих одинаковые номера, не будет превышать некоторой наперед заданной величины. При этом алгоритмы работы совпавших элементов являются функционально подобными.

Алгоритмы назовем функционально подобными, если одинаковое изменение входных данных приводит к одинаковому изменению результатов работы.

Подобие структур. Две структуры назовемподобными,если описаниеОдной из них можно наложить на аналогичное описание другойи они совпадут (без учета значений «жизненной силы» элементов).

В основе алгоритма определения подобия и равенства структурлежит переномерация элементов.

Покажемкак это может быть сделано. Например, надо проверить подобны ли следующие две структуры А и В?

Если в описании структуры В произвести замену номеров в соответствии со следующим правилом:

2 -> 1,

3 ->2,

1 ->.

4 ->3,

то описания структур А и В совпадут. А это значит, что структуры А и В подобны.

Ранее, особенно в первой части работы, неоднократно упоминалось понятие «информационная емкость». Попробуем обосновать необходимость его введения и определить, что такое «информационная емкость». Значимость этого понятия вытекает из решения практических задач, в большинстве которых важно суметь ответить на вопросы: «Как велик багаж знаний у конкретной системы? Способна ли эта система освоить дополнительно еще что-то? Насколько быстро она способна это сделать?» Первый вопрос имеет отношение к текущему состоянию системы, вторые два— к ее будущему. Поэтому предлагается для оценки текущего состояния ввести понятие «информационная емкость». Что же касается оценки возможности системы, то здесь определяющую роль играет не столько исходная структура, сколько входная/выходная информация (обучающая выборка). Отвечать на вопросы о будущих состояниях следует только с учетом прогноза событий, способных затронуть данную систему.

Так как знание понимается через структурную сложность системы, то представляется разумным определить «информационнуюемкость» пропорциональной количеству элементов структуры и числу связей между ними

E = s+ n, где

s — общее число связей между элементами;

n — количество элементов в системе.


Глава 32 (4). Преобразование структур

Вот неделя, другая проходит, Еще пуще старуха одурилась;

Опять к рыбке старика посылает.

А.С.Пушкин

Считаем, что элементы структуры не способны поддерживатьмежду собой связи, если сила внешнего давления превосходит их среднююжизненную силу, умноженную на некоторый коэффициент ослабления, определяемый особенностями среды. Безусловно, можно ввести любые другиеправила, определяющие гибель связей, и зависящие от того. какой процесс предполагается моделировать. В данном случае важно исследовать саму технологию преобразования структур без привязки к конкретным предметным областям. Например, в первой части работы, говоря о СР-сетях, предполагалось, что внешнее давление направлено в первую очередь на уничтожение элементов, а не их связей, а вот гибель элементов уже приводит к уничтожению связей. Понятно, что в каждом конкретном случае модель будет своя.

Исходя из сказанного, предлагается к выбору правил гибели элементов и их связей подойти несколько волюнтаристически, например:

1) элемент гибнет, если сила воздействия превышаетего жизненную силу;

2) связь между элементами уничтожается, если сила внешнего воздействия на эту связь превышает силу сцепления, представляющую собой среднюю «жизненную силу» элементов, образовавших и поддерживающих эту связь, умноженную на некоторый коэффициент ослабления, который определяется условиями среды, типа: удаленность элементов друг от друга, частота взаимодействия, относительный объем передаваемой информации и т.п.

Силой сцепления двух элементов ai(gi) и aj(gj) назовем величину (первая форма) zi,j = Gi,j (gi+ gj)/2 или (вторая форма) zi,j = Gi,j (gi/si+ gj/sj)/2 где

Gi,j — коэффициент ослабления, Gi,j меньше 1, когда i ≠ j и равен 1, если i = j gi — «жизненная сила» i элемента;

si — число связей i элемента с остальными элементами данной системы,

Вполне допустимы и любые другие формы задания силы сцепления которые определяются исследуемой предметной областью и решаемыми задачами.

Внешнее давление (напряжение) может быть одинаково для все» элементов структуры, а может быть целенаправленным.

Предлагается первоначально рассмотреть процесс модификации структуры системы при постепенном увеличении внешнего равномерно распределенного давления на систему. А затем попытаться ответить на вопрос о том, что можно делать с системой в случае целенаправленного внешнего давления.

Итак, дана структура А.

а: {11(2, 3, 5), 22(1, 4), 32(1, 4, 5), 43(2, 3, 5), 51(1, 3, 4)},

форма которой для наглядности представлена на рис.6.1.

рис. 6.1.

Предположим, что коэффициент ослабления одинаков для всех связей данной структуры и равен 1.

Пусть на структуру А оказывается внешнее давление с силой в одну условную единицу. Под действием внешнего равномерного давления структура А, в соответствии с введенными правилами, приобретет следующий вид:

а: {11(2, 3), 22(1, 4), 32(1, 4, 5), 43(2, 3, 5), 51( 3, 4)},

рис. 6.2.

Если давление будет усилено, то структура системы примет вид (внешнее давление соответствует двум условным единицам):

– Конец работы –

Эта тема принадлежит разделу:

Расторгуев с.П. Информационная война. — м: радио и связь

Информационная война.. радио и связь.. удк..

Если Вам нужно дополнительный материал на эту тему, или Вы не нашли то, что искали, рекомендуем воспользоваться поиском по нашей базе работ: Проектирование знания

Что будем делать с полученным материалом:

Если этот материал оказался полезным ля Вас, Вы можете сохранить его на свою страничку в социальных сетях:

Все темы данного раздела:

Самозарождающиеся и разрушающиеся структуры
  Миры тоже рождаются и умирают, и невозможно, чтобы они были вечны, коль скоро они изменяются и состоят из подверженных изменению частей. Дж. Бруно

Г.Л.Олди
"Наша Земля — это не сухое, здоровое и удобное плоскогорье, а огромная самка с бархатным телом, которая дышит, дрожит и страдает под бушующим океаном. Голая и похотливая, она кружится среди

Н.Ф. Федоров
Жизнь не терпит пустоты, не терпит смерти и при возможности заполняет собой все щели. Гигантскими тиражами расходятся биологические особи по горизонталям жизни и, видоизменяясь (эволюционируя), под

А.С.Пушкии
Проектирование любой логической схемы, строительство домаилинаписание книги с определенной долей успеха можно попробовать осуществлять от генерального плана (сценария) к конкретных элементам либо н

Ф.Ницше
Классическое задание модели самообучающейся систем предполагает решение следующих задач: 1) создание модели отдельного элемента; 2) определение топологии связей между элементами;

Э= d(Еф - Eп)/dt
Подобный путь очеловечивания компьютерных программ может быть и наивен, но как модель эмоционального поведения, как модельочищения знанием вполне, с моей точки зрения, имеет право

Теорема о возможностях СР-сетей
Проблема обучения информационной самообучающейся системы. построенной на принципах СР-сети. решению любой задачи, даже при условии. что информационная емкость СР-сети (исходное количество элемен

Теорема о возможностях Р-сети
Информационная самообучающаяся система, построенная на принципах Р-сети. может быть обучена решению любой задачи тогда и только тогда, когда выполняются следующие два условия:

Ti,k- tk,j< Dt.
Обозначим Si,k = (ai,k, bi,k), Ai = {ai,k}, Bi ={bi,k

Bi,1¹ bj,1 .
Для того чтобы описать подобную ситуацию, введем понятие «похожесть» систем и будем оценивать уровень «похожести» системы i на систему j по следующей формуле: RI,j = m (

Информационное оружие и проблема алгоритмической неразрешимости перспективности для информационных самообучающихся систем
Две силы есть — две роковые силы, Всю жизнь свою у нихмы под рукой, От колыбельных дней и до могилы, — Одна есть Смерть, другая — Суд людской. Ф.И.Тютчев

Сообщение: известие, информация
Работы : Больцмана, Н.Винера, А.Реньи и др. Информация—убыль неопределенности, мера неопределенности. Неопределенность — недостача информации, «о

Программирование осуществляют входные данные
В этой ситуации получается, что информационные системыдолжны быть смертны. Но в биологии, наряду с клеточными штаммами, существуют и раковые клетки, для которых потенциал ро

Проблема невидимости
Самое важное — это то, что невидимо. А.Сент-Эюкзюпери Оглавление четвертой части ЧАСТЬ ЧЕТВЕРТАЯ Проблема невидимости Введение 108 Глава 2

Суггестия и безопасность
Смешно, когда кузнечик бросается на телегу: все уверены, что упадет кузнечик, никто не думает, что перевернется телега. Китайская пословица Оглавление пятой части

А:{1 (2, 3, 4), 2 (1, 3, 4), 3 (1, 2, 4), 4 (1, 2.3, 5).5 (4, б, 7), б (5, 7), 7 (5.б)}.
В приведенной структуре А достаточно уничтожить элемент с номером 4 как сразу количество эле

Теорема о возможностях Р-сети
Информационная самообучающаяся система, построенная на принципах Р-сети, может быть обучена решению любой задачи тогда и только тогда, когда выполняются следующие два условия:

Хотите получать на электронную почту самые свежие новости?
Education Insider Sample
Подпишитесь на Нашу рассылку
Наша политика приватности обеспечивает 100% безопасность и анонимность Ваших E-Mail
Реклама
Соответствующий теме материал
  • Похожее
  • Популярное
  • Облако тегов
  • Здесь
  • Временно
  • Пусто
Теги