Просмотр исходного текста страницы Распределённые вычисления

'''Распределённые вычисления''', '''параллельные вычисления''', '''вычисления высокой производительности''' (HPC — ''high performance computing''): способ решения трудоёмких [[Вычислительные методы|вычислительных задач]] с использованием нескольких [[компьютер]]ов или вычислительных устройств, чаще всего объединённых в [[Параллельная ЭВМ|параллельную вычислительную систему]].<ref name="tanen">{{книга
 |автор          = [[Таненбаум, Эндрю|Эндрю Таненбаум]], Мартин ван Стеен
 |часть          = 
 |заглавие       = Распределенные системы. Принципы и парадигмы
 |оригинал       = Andrew S. Tanenbaum, Maarten van Steen. "Distributed systems. Principles and paradigms"
 |ссылка         = 
 |ответственный  = 
 |издание        = 
 |место          = Санкт-Петербург
 |издательство   = Питер
 |год            = 2003
 |том            = 
 |страницы       = 
 |страниц        = 877
 |серия          = Классика computer science
 |isbn           = 5-272-00053-6
 |тираж          = 
}}</ref>

Возможные полезные результаты использования параллельных вычислений:

1) Повышение скорости счёта, т. е., проделывание того же объёма работы за меньшее время (интересно, в первую очередь, для задач, имеющих ограничения по времени).

2) Повышение пропускной способности, т. е., проделывание большего объёма работы за то же время (интересно, в первую очередь, для задач, содержащих большие объёмы данных).

3) Повышение мощности, т. е., решение задач большего объёма (интересно, в первую очередь, для задач, модели в которых недостаточно подробны).

Указанные полезные результаты <u>могут</u> быть недостижимы <u>одновременно</u>, с использованием одного и того же набора методов и технологий.

Понятие параллельности вычислений в первую очередь означает их одновременность, т.е., одновременное использование для их проведения различных вычислительных устройств (процессоров, ядер и др.). Сама же одновременность исполнения может использоваться различными способами. Так, например, 1) одинаковое вычисление может одновременно производиться с частями одного набора данных по отдельности (например, задачи метеорологии, распределённые сети в задачах транспорта, вообще распределённые системы управления<ref name="cyber">{{книга
 |автор          = 
 |часть          = 
 |заглавие       = Словарь по кибернетике
 |оригинал       = 
 |ссылка         = 
 |ответственный  = Под редакцией академика [[Михалевич, Владимир Сергеевич|В. С. Михалевича]]
 |издание        = 2-е
 |место          = Киев
 |издательство   = Главная редакция Украинской Советской Энциклопедии имени М. П. Бажана
 |год            = 1989
 |том            = 
 |страницы       = 
 |страниц        = 751
 |серия          = С48
 |isbn           = 5-88500-008-5
 |тираж          = 50000
}}</ref>); 2) различные вычисления могут одновременно производиться с одним набором данных (например, задача многих тел в молекулярной динамике или в астрофизике); 3) различные вычисления могут образовывать конвейер (pipeline), где каждый вычислитель получает данные частями, обрабатывает их и передаёт следующему вычислителю (например, внутренняя реализация операций над вещественными числами в процессорах).

Для того, чтобы вычисления вообще могли исполняться параллельно/распределённо, требуется их перевод в форму, пригодную для такого исполнения – [[параллелизация]]. Выбор конкретной модели параллелизации зависит от характера имеющейся задачи; ''скалярные вычисления'', отдельные части которых необходимо исполняются взаимно последовательно, параллелизации не поддаются.

Теоретически [[параллельная ЭВМ|параллельное вычислительное оборудование]] способно к неограниченному наращиванию производительности за счет масштабирования. Практически же существуют серьёзные ограничения роста производительности параллельных вычислений, обусловленные наличными технологиями и архитектурой вычислительной техники, а также особенностями расчётных методов и алгоритмов.

''См. также'': [[грид]], [[клауд]].

== История ==
{{main|История параллельных и распределенных вычислений}}

В 1973 году Джон Шох и Джон Хапп из калифорнийского научно-исследовательского центра [[Xerox PARC]] написали программу, которая по ночам запускалась в локальную сеть PARC и заставляла работающие компьютеры выполнять вычисления <ref name="popmech">[http://www.popmech.ru/article/5435-s-miru-po-nitke/ С миру по нитке: Суперкомпьютер " журнал «Популярная механика»<!-- Заголовок добавлен ботом -->]</ref>.

В 1978 году советский математик [[Глушков Виктор Михайлович|Виктор Глушков]] работал над проблемой [[макроконвейер]]ных распределённых вычислений. Он предложил ряд принципов распределения работы между [[процессор]]ами.{{R|cyber|page=320}} На базе этих принципов им была разработана ЭВМ [[ЕС-2701]].

В 1988 году [[Ленстра, Арьен|Арьен Ленстра]] и Марк Менес написали программу для [[факторизация|факторизации]] длинных чисел. Для ускорения процесса программа могла запускаться на нескольких машинах, каждая из которых обрабатывала свой небольшой фрагмент.<ref name="popmech" />.

В 1994 году [[Джиди, Дэвид|Дэвидом Джиди]] была предложена идея по организации массового проекта распределённых вычислений, который использует компьютеры добровольцев (т. н. [[добровольные вычисления]])&nbsp;— [[SETI@Home]]<ref>[http://www.seti.cl/your-computer-at-the-service-of-science-exclusive-interview-to-the-director-of-setihome-and-boinc-david-p-anderson/ Компьютер на службе науки — интервью директора SETI@Home и BOINC Дэвида П. Андерсона]</ref>. Научный план проекта, который разработали Дэвид Джиди и Крейг Каснофф из Сиэтла был представлен на пятой международной конференции по биоастрономии в июле 1996 года<ref>[http://www.membrana.ru/particle/2594 Ильин Ю. SETI для внеземного разума: 24 часа на поиски\\[[MEMBRANA]], 12 марта 2003]</ref>.

В январе 1996 года стартовал проект [[GIMPS]] по поиску простых [[Число Мерсенна|чисел Мерсенна]], также используя компьютеры простых пользователей как добровольную вычислительную сеть.

28 января 1997 года стартовал конкурс RSA Data Security на решение задачи взлома методом простого перебора 56-битного ключа шифрования информации [[RC5]]. Благодаря хорошей технической и организационной подготовке проект, организованный некоммерческим сообществом [[distributed.net]], быстро получил широкую известность <ref name="popmech" />.

17 мая 1999 года стартовал SETI@home на базе [[Грид|Grid]], а в начале 2002 года завершилась разработка Калифорнийского Университета в Беркли открытой платформы [[BOINC]] (Berkeley Open Infrastructure for Network Computing), разрабатываемой с апреля 2000 года первоначально для [[SETI@Home]], но первым на платформе BOINC стал проект [[Predictor@home]] запущенный 9 июня 2004 года.

== Управление вычислительными заданиями ==

Проблема распределения различных вычислительных задач в рамках распределенной системы относится к проблеме [[Теория принятия решений#Принятие решений в условиях неопределённости|принятия решений в условиях неопределённости]]. Данная проблема рассматривается в [[Теория принятия решений|теории принятия решений]] и в [[Принцип неопределённости|теории неопределённости]].

=== Распределённые операционные системы ===

Распределённая ОС, динамически и автоматически распределяя работы по различным машинам системы для обработки, заставляет набор сетевых машин обрабатывать информацию параллельно. Пользователь распределённой ОС, вообще говоря, не имеет сведений о том, на какой машине выполняется его работа.<ref name="tanen" />

Распределённая ОС существует как единая операционная система в масштабах вычислительной системы. Каждый компьютер сети, работающей под управлением распределённой ОС, выполняет часть функций этой глобальной ОС. Распределённая ОС объединяет все компьютеры сети в том смысле, что они работают в тесной кооперации друг с другом для эффективного использования всех ресурсов компьютерной сети.

В результате сетевая ОС может рассматриваться как набор операционных систем отдельных компьютеров, составляющих сеть. На разных компьютерах сети могут выполняться одинаковые или разные ОС. Например, на всех компьютерах сети может работать одна и та же ОС [[UNIX]]. Более реалистичным вариантом является сеть, в которой работают разные ОС, например, часть компьютеров работает под управлением UNIX, часть — под управлением NetWare, а остальные — под управлением [[Windows NT]] и [[Windows 98]]. Все эти операционные системы функционируют независимо друг от друга в том смысле, что каждая из них принимает независимые решения о создании и завершении своих собственных процессов и управлении локальными ресурсами. Но в любом случае операционные системы компьютеров, работающих в сети, должны включать взаимно согласованный набор коммуникационных протоколов для организации взаимодействия процессов, выполняющихся на разных компьютерах сети, и разделения ресурсов этих компьютеров между пользователями сети.

Если операционная система отдельного компьютера позволяет ему работать в сети, и может предоставлять свои ресурсы в общее пользование и/или использовать ресурсы других компьютеров сети, то такая операционная система отдельного компьютера также называется сетевой ОС.

Таким образом, термин «сетевая операционная система» используется в двух значениях: как совокупность ОС всех компьютеров сети и как операционная система отдельного компьютера, способного работать в сети. Из этого определения следует, что такие операционные системы, как, например, Windows NT, NetWare, Solaris, HP-UX, являются сетевыми, поскольку все они обладают средствами, которые позволяют их пользователям работать в сети.

== Ссылки и примечания ==
{{примечания}}

<!-- предлагаю исключить эти пол-экрана -- Ю.Т. == См. также ==

* [[Параллельные вычисления]]
* [[Грид]]
* [[Облачные вычисления]]
* [[Распределённая база данных]]
* [[Многопоточность]]
* [[Многозадачность]]
* [[Параллельные вычислительные системы]]
* [[Классификация параллельных вычислительных систем]]
* [[Закон Амдала]]
* [[Макроконвейер]]
* [[Конвейер (процессор)]]
* [[Симметричная мультипроцессорность]]
* [[Массово-параллельная архитектура]]
* [[Ботнет]]
* [[Клиент-сервер]]
* [[Пиринговые сети]]
* [[Кластер (группа компьютеров)|Кластер]]
* [[MIPS (быстродействие)|MIPS]]
-->
{{Википедия}}

== Открытая литература ==
{{:параллельные вычисления, открытая литература}}

[[Категория:Распределённые вычисления]]
[[category:параллельные вычисления]]
[[en:Distributed computing]]
{{DEFAULTSORT:*}}