10 худших багов в истории человечества

[Ranger]

10 худших багов в истории человечества

Если баги в программном обеспечении приводят к зависанию компьютера, то это ерунда. Гораздо хуже, если из-за ошибок в ПО ломаются автомобили, взрываются ракеты и погибают люди.

Самая первый компьютерный баг в истории был обнаружен в 1945 г., когда инженеры нашли в корпусе компьютера Harvard Mark II мотылька. Этот мотылек закорачивал контакты — и компьютер сбоил. Инженеры сделали запись в журнале событий "Первый случай обнаружения бага" (по-английски "bug" означает "насекомое"). С тех пор компьютерные сбои принято называть багами.

По мере распространения цифровых устройств баги все глубже проникают в нашу жизнь. Они окружают нас повсюду — на мобильных телефонах, в бытовой технике, в автомобилях. К счастью, обычно баги не приносят никакого вреда, кроме морального. Но бывает и по-другому, когда баг вызывает огромные финансовые потери и даже забирает человеческие жизни. Журнал Wired посвятил этой проблеме целую тему номера и опубликовал список 10 худших багов в истории человечества, в хронологическом порядке.

28 июля 1962 г. Космический аппарат Mariner I стартовал по направлению к Венере. Из-за поломки антенны корабль потерял связь с земными службами управлениями и перешел на собственную систему пилотирования. Но эта система содержала обидный маленький баг. В результате аппарат полетел совсем не в ту сторону и его пришлось подорвать над Атлантическим океаном. Последующее расследование установило, что в процессе программирования системы навигации была совершена маленькая опечатка — при вводе одной из формул был пропущен один символ.

1982 г. Авария на Транссибирском трубопроводе. Оперативники ЦРУ внедрили баг (отчет в формате PDF) в канадское программное обеспечение, управлявшее газовыми трубопроводами. Советская разведка получила это ПО как объект промышленного шпионажа и внедрила на Транссибирском трубопроводе. Результатом стал самый большой неядерный взрыв в истории человечества.

1985–87 гг. Несколько человек получили смертельную дозу облучения во время сеансов радиационной терапии с медицинским ускорителем Therac-25. Основанная на предыдущей версии ускорителя, "улучшенная" модель Therac-25 могла генерировать два вида излучения: слабое электронное бета-излучение и нормальное рентгеновское излучение. Еще одно "улучшение" состояло в том, что вместо электромеханической защиты пациента в устройстве была реализована программная защита, якобы более надежная. Обе новые функции были некорректно реализованы неопытным программистом, результатом чего стали как минимум пять смертей и огромное количество несмертельных случаев переоблучения.

1988 г. Переполнение буфера в Berkeley Unix. Первый в мире компьютерный червь (так называемый червь Морриса) заразил от 2.000 до 6.000 компьютеров менее чем за сутки, эксплуатируя уязвимость в реализации функции gets(). В ОС Berkeley Unix эта функция ввода/вывода не имела ограничения на максимальную длину.

1988–96 гг. Генератор случайных чисел Kerberos в течение нескольких лет широко использовался в различных системах шифрования. Предполагалось, что программа должна выбирать ключ случайным образом из многих миллиардов чисел, но генератор случайных чисел выбирал из гораздо меньшего набора численностью примерно в миллион. Как результат, в течение восьми лет любой пользователь мог без труда проникнуть в компьютерную систему, которая использовала модуль Kerberos.

15 января 1990 г. Падение телефонной сети AT&T. Ошибка в новой версии прошивки междугородних коммутаторов привела к тому, что коммутатор перезагружался, если получал специфический сигнал от соседнего коммутатора. Но беда в том, что этот сигнал генерировался в тот момент, когда коммутатор восстанавливал свою работу после сбоя. В один прекрасный день, когда какой-то коммутатор в Нью-Йорке перезагрузился, он подал тот самый злополучный сигнал — и началось. Вскоре 114 соседних коммутаторов непрерывно перезагружались каждые 6 секунд, а 60 тыс. человек остались без междугородней связи на 9 часов, пока инженеры не установили на коммутаторы предыдущую версию прошивки.

1993 г. Широко разрекламированный процессор Intel Pentium неправильно производил деление с плавающей запятой, ошибаясь на 0,006%. Хотя эта проблема реально коснулась немногих пользователей, но стала настоящим кошмаром для имиджа Intel. Поначалу фирма согласилась менять процессор только для тех пользователей, которые могли доказать, что им в вычислениях нужна подобная точность, но затем согласилась поменять процессор всем желающим. Этот баг стоил Intel около $475 млн.

1995–96 гг. Пинг смерти. Отсутствие проверки на ошибки при обработке IP-пакетов позволяла порушить практически любую операционную систему, отправив ей через интернет специальный пакет ("пинг").

4 июня 1996 г. Новая ракета-носитель Ariane 5, результат многолетней работы европейских ученых, гордость стран Евросоюза, взорвалась через 40 секунд после своего первого старта. Только научное оборудование на борту ракеты стоило около $500 млн, не говоря о множестве побочных финансовых последствий. Система автоподрыва ракеты сработала после остановки обоих процессоров в результате цепочки ошибок. Началом этой цепочки послужило переполнение буфера, поскольку система навигации подала недопустимо большое значение параметра горизонтальной скорости. Дело в том, что система управления Ariane 5 переделывалась из Ariane 4, а там такого большого значения не могло быть теоретически. В целях снижения нагрузки на рабочий компьютер инженеры сняли защиту от ошибок переполнения буфера в этом программном модуле, поскольку были уверены, что такого значения горизонтальной скорости не может быть в принципе — и просчитались.

Ноябрь 2000 г. Национальный институт рака, Панама. Здесь произошла целая серия инцидентов, вызванная тем, что ПО для планирования радиационной терапии производства американской компании Multidata Systems International неправильно рассчитывало дозы облучения для пациентов. Программа позволяла врачу нарисовать на компьютерном экране расположение защитных металлических щитов, которые защищают тело от радиации. Но программа позволяла манипулировать только четырьмя щитами, тогда как врачи хотели задействовать пять. Они нашли способ "обхитрить" программу, если нарисовать все пять щитов в виде единого блока с дыркой посередине. Единственное, чего они не знали, что программа рассчитывает разные дозы радиации в зависимости от того, как нарисована дырка. Если рисовать ее особым образом, то устройство выдавало двойную дозу радиации. Как минимум восемь человек погибли, а еще 20 получили переоблучение. Врачи, которые должны были вручную перепроверять расчеты программы, были осуждены за убийство.

Все эти примеры, а особенно последний, еще раз показывают, что никогда нельзя в полной мере доверять компьютерам. Ведь программы для компьютеров создают люди, а людям свойственно ошибаться.

[Сергей Горпинюк]

Все эти примеры, а особенно последний, еще раз показывают, что никогда нельзя в полной мере доверять компьютерам. Ведь программы для компьютеров создают люди, а людям свойственно ошибаться.

Компьютеры не ошибаются, они лишь делают то, чему научили их люди. Все ошибки допустили именно люди.
Поэтому в первую очередь нельзя доверять людям, а стабильно работающий компьютер достоин доверия.

[Артем]

Все эти примеры, а особенно последний, еще раз показывают, что никогда нельзя в полной мере доверять компьютерам. Ведь программы для компьютеров создают люди, а людям свойственно ошибаться.

Компьютеры не ошибаются, они лишь делают то, чему научили их люди. Все ошибки допустили именно люди.
Поэтому в первую очередь нельзя доверять людям, а стабильно работающий компьютер достоин доверия.

Не всё ф дисятке !
Особенно мне понравился случай с американскими истребителями, разбившимися в Израиле в районе Мертв. моря.
Там высота НИЖЕ уровня моря. Ботовой комп. самолета, влетая туда получал данные высотомера ниже уровня моря, происходило деление на ноль. Комп "ресетился" и истребитель разбивался. Разобрались через несколько месяцев.

[Abirvalg]

стабильно работающий комп(повезло )тоже люди делали..то бишь -(по улице ехала техногенная катастрофа. а за рулем сидел человеческий фактор)

[Валерий Мухин]

1982 г. Авария на Транссибирском трубопроводе. Оперативники ЦРУ внедрили баг (отчет в формате PDF) в канадское программное обеспечение, управлявшее газовыми трубопроводами. Советская разведка получила это ПО как объект промышленного шпионажа и внедрила на Транссибирском трубопроводе. Результатом стал самый большой неядерный взрыв в истории человечества.

http://www.computerra.ru/think/32893/

Брехня-я-я!
Автор: Киви Берд
Опубликовано в журнале "Компьютерра" №12 от 13 апреля 2004 года

Сведущие российские специалисты откликнулись на недавнюю публикацию в США мемуаров высокопоставленного политика-пенсионера Томаса Рида, где впервые поведано о тайных операциях ЦРУ против советской экономики.

В частности, о колоссальном взрыве газопровода в Сибири в 1982 году, якобы подстроенном американской разведкой с помощью продажи в СССР чипов и ПО со скрытыми внутренними дефектами (подробнее в статье "Шпионские страсти"). Если подытожить известные на сегодня отклики компетентных людей в нашей стране, то краткое резюме на эти откровения выглядит так: "Чушь, вранье и дешевая пропаганда".

По неофициальному свидетельству представителя ОАО "Газпром", в 1982 году у нас вообще не было компьютеров, управлявших работой газопроводов. Серьезные аварии газо- и нефтепроводов действительно случаются, но разговоры о взрыве мощностью порядка трех килотонн — полная чепуха. Труба имеет диаметр 1,4 м, толщину стенки — чуть больше 1 см, выдерживает давление больше ста атмосфер (рабочее 75 атмосфер) и лежит на глубине 1 м. Несложные подсчеты показывают, что для взрыва объявленной мощности нужно, чтобы в один миг развернулось километров двадцать трубы и весь газ вступил в контакт с воздухом. На практике это нереальная ситуация, поскольку при достижении критического давления в одной точке происходит разрыв, и давление сразу падает на всем участке трубопровода. Об аварии 1982 года, правда, ни "Газпром", ни компания "Газпромавтоматика", создающая ныне ПО для трубопроводов, ничего внятного сказать не смогли.

Зато недвусмысленно высказался ветеран-чекист Василий Пчелинцев, возглавлявший в начале 1980-х региональное подразделение КГБ по Тюменской области. По его свидетельству, результатом аварии была производственная халатность. Хотя в книге Томаса Рида не указан район аварии, Пчелинцев уверен, что речь идет о взрыве в апреле 1982 года в 50 км от Тобольска — самом крупном из подобных ЧП той поры. Тюменская область переживала в те времена подлинный трубопроводный бум. Строители торопились и, случалось, пренебрегали соблюдением установленных норм. Два таких нарушения и стали причиной аварии, как показало расследование госкомиссии. Во-первых, в стыках труб не вставлялись звенья, компенсирующие изменение размеров трубы при смене температуры. Во-вторых, на трубы не навешивался дополнительный груз, чтобы удерживать их под землей в болотистой местности. В результате, когда настали теплые апрельские дни, трубопровод вылез из болотистой почвы на поверхность. На солнце трубы раcширились, а ночью начались резкие сжатия, проскочила искра, и газ воспламенился. Огонь пошел в стороны и добрался до параллельного газопровода, проложенного в полутора десятках метрах от первого. Загорелся и тот.

Пламя было очень сильным, хотя обошлось без жертв, поскольку местность совершенно безлюдная. По свидетельству Пчелинцева, из-за этой аварии остался без газа огромный Челябинск, но поврежденный участок газопровода был восстановлен в течение суток. В те времена подобные случаи замалчивались, поэтому информация об этом инциденте не публиковалась. Никаких сравнимых с тобольской аварией взрывов Пчелинцев не знает, хотя по должности все ЧП находились в его ведении. Еще один ветеран Михаил Леонтьев из совсем другого ведомства КГБ подтвердил, что советская разведка действительно имела зарубежную сеть агентов, занимавшихся технологическим шпионажем. Однако, подчеркнул Леонтьев, Томас Рид глубоко заблуждается, говоря, будто это началось в 1970 году вместе с созданием Управления Т Первого Главка КГБ. На самом деле, чекисты занимались такого рода деятельностью с 1918 года.

В общем, чужие секреты мы воровали всегда, а вот аварии допускали лишь по собственному разгильдяйству.