13 крупных сбоев ПО, переопределивших отраслевые стандарты

Независимо от того, насколько тщательное тестирование проводят инженеры или сколько бессонных ночей разработчики тратят на кодинг до рассвета, единственный баг может вызвать полный системный сбой. От глюков ПО, стоимостью в миллиарды, до критических багов, приводящих к фатальным авариям, последствия плохой разработки ПО могут быть катастрофическими.

Знаете ли вы, что плохое качество ПО стоит американскому бизнесу примерно $2 трлн ежегодно, причем операционные сбои ПО являются основным вкладчиком в эти потери?

Некоторые из самых частых причин сбоев ПО включают:

• Неадекватное архитектурное определение и плохой низкоуровневый дизайн.
• Нереалистичные графики или дедлайны вех, установленные без достаточных данных и анализа.
• Неспособность предвидеть и учесть меняющиеся требования.
• Перегрузка проектов избыточным персоналом в попытке сжать сроки.
• Интуитивные или эмоционально обусловленные переговоры стейкхолдеров.
• Недоразумения, конфликтующие эго и негативная командная динамика.

Ниже приведены крупные сбои ПО, приведшие к смущению и огромным финансовым потерям. В экстремальных случаях ошибки ПО даже стоили жизней, как в инцидентах с передозировкой радиации Therac-25.

13. Утечка данных MOVEit

В мае 2023 года произошло значительное нарушение данных, связанное с MOVEit — программой для управляемой передачи файлов, разработанной Progress Software. Этот дефект позволил несанкционированный доступ к конфиденциальным данным, приведя к серии кибератак, затрагивающих тысячи компаний по всему миру.

Причина сбоя: Уязвимость SQL-инъекции

Нарушение в основном выполнялось через SQL-инъекционные атаки на публично доступные серверы, позволяя злоумышленникам эксфильтровать данные без обнаружения. Более конкретно, дефект позволял злоумышленникам развернуть веб-шелл, названный «LemurLoot», который облегчал несанкционированный доступ к и кражу конфиденциальных данных, хранящихся в базах данных MOVEit.

Общая стоимость нарушения: $15,8 млрд

Нарушение затронуло более 2 700 организаций по всему миру и скомпрометировало личные данные примерно 95,8 миллионов человек. Согласно анализу стоимости утечки данных IBM, средняя стоимость на скомпрометированную запись составляет $165.

12. Британская паспортная система (1999)

В 1999 году UK Passport Agency внедрила новую компьютеризированную систему обработки для оптимизации заявлений на паспорта. Разработанная Siemens, система должна была модернизировать процесс и улучшить эффективность. Однако из-за глюков ПО и системных сбоев внедрение вызвало массовые задержки, оставив тысячи британских граждан без паспортов вовремя для поездок.

Причина сбоя: Неадекватное тестирование

Система не была должным образом протестирована в реальных условиях, приводя к узким местам при развертывании. Плюс, Великобритания ввела новые требования к паспортам для детей примерно в то же время, существенно увеличив объем заявлений — чего система не была готова обрабатывать.

Общая стоимость ошибки: $20 млн

Сбой заставил британское правительство нанять дополнительный персонал, работать сверхурочно и компенсировать пострадавших граждан, что привело к примерно $20 млн финансовых потерь. Более того, тысячи людей пропустили отпуска и деловые поездки, добавив к публичному возмущению.

11. Mariner 1

Причина сбоя: Отсутствующий надстрочный знак (overbar)

Запущенный в июле 1962 года, Mariner 1 был первой межпланетной миссией NASA, предназначенной для пролета мимо Венеры и передачи научных данных на Землю. К сожалению, миссия завершилась преждевременно, когда космический аппарат был уничтожен через 293 секунды после старта из-за неисправности системы наведения.

Вскоре после старта ракета начала отклоняться от курса. Это отклонение было вызвано дефектом в навигационном ПО. Конкретно, отсутствующий надстрочный знак (символ, указывающий на среднее значение) в рукописных уравнениях наведения привел к отправке некорректных команд наведения на ракету. Следовательно, ракета сбилась с курса, и офицер безопасности полигона приказал её уничтожение для предотвращения потенциальных опасностей.

Общая стоимость ошибки: $18,5 млн

Потеря Mariner 1 привела к 추정ной финансовой потере $18,5 млн в 1962 году, эквивалентно примерно $194 млн сегодня.

10. Mydoom

Первоначально обнаружен 26 января 2004 года, Mydoom — один из самых неórioзных и разрушительных компьютерных червей когда-либо созданных. Он распространялся через email-вложения и P2P-сети, инфицируя миллионы компьютеров по всему миру. На пике Mydoom составлял почти 8,3% всех отправленных глобально email, делая его самым быстро распространяющимся email-червем в истории.

Причина атаки: Неизвестна

Пока точное происхождение Mydoom остается неизвестным, некоторые теории предполагают, что он был создан группой, нанятой для атаки SCO Group, которая была вовлечена в правовые споры по Linux-софту в то время. В отличие от многих других червей, Mydoom, казалось, не имел финансового мотива.

Общая стоимость: От $38 млрд до $50 млрд

Всплеск привел к миллиардам долларов ущерба, включая затраты на безопасность, потерю продуктивности и усилия по смягчению. Оценки указывают, что общий финансовый эффект составил от $38 млрд до $50 млрд глобально.

9. Обрушение крыши Hartford Coliseum

18 января 1978 года крыша Hartford Civic Center Coliseum в Хартфорде, Коннектикут, обрушилась из-за структурного сбоя. 10 000-тонная крыша рухнула на сиденья арены, всего за шесть часов после проведения баскетбольного матча с более чем 4 700 зрителями. К счастью, никого не было внутри в тот момент.

Причина сбоя: Ошибочные CAD-расчеты и ошибки структурного дизайна

Расследования выявили, что обрушение было комбинацией инженерных ошибок расчетов и ошибок компьютерного ПО, использованного в процессе структурного дизайна. Инженеры использовали раннее компьютерное ПО для моделирования распределения напряжений, но ПО не учло определенные условия нагрузки, приводя к недооценке уровней напряжения на ключевых соединениях.

Фермовая система имела неадекватное диагональное обвязывание, вызывая избыточное изгибающее напряжение. Вес накапливающегося снега и льда (от зимней бури) протолкнул структуру за её пределы.

Общая стоимость: $70 млн

Обрушение подорвало публичное доверие к компьютерно-помогаемой инженерии и привело к более строгим строительным нормам. Плюс, крупные иски были поданы против проектной фирмы, страховщиков и подрядчиков.

8. Mars Climate Orbiter

Mars Climate Orbiter был роботом-звездолетом, запущенным NASA в 1998 году для изучения марсианской атмосферы, климата и изменений поверхности. Через 286 дней после запуска космический аппарат сгорел в атмосфере Марса вместо входа на орбиту как запланировано.

Причина сбоя: Ошибка конвертации единиц измерения

Сбой произошел из-за простой, но катастрофической ошибки конвертации единиц между двумя командами NASA: Lockheed Martin (подрядчик, строящий аппарат), использовавший имперские единицы для расчетов силы, и лабораторию реактивного движения NASA, контролировавшую миссию, ожидавшую метрические единицы.

Поскольку эти единицы никогда не были должным образом конвертированы, навигационная система Orbiter неверно рассчитала свою траекторию, заставляя её войти в атмосферу Марса на высоте 35 миль вместо запланированных 140 миль. Низкая высота привела к аэродинамическим силам, уничтожившим зонд.

Общая стоимость: $327 млн

Общая стоимость миссии составила примерно $327,6 млн, включая разработку аппарата, расходы на запуск и операции миссии.

7. IRS: Отсутствие системы обнаружения мошенничества

В 1994 году Internal Revenue System (IRS) внедрила Electronic Fraud Detection System (EFDS) для обнаружения и предотвращения мошеннических налоговых деклараций. Со временем EFDS устарела и боролась, чтобы suivre за эволюционирующими тактиками мошенничества. Признавая эти недостатки, IRS начала работу над Return Review Program (RRP) в 2009 году, целясь улучшить возможности обнаружения мошенничества и заменить EFDS.

Причина сбоя: Задержки внедрения

RRP столкнулась с задержками и не стала полностью операционной как задумано. В результате, в сезоне деклараций 2006 года IRS работала без комплексной системы предварительного обнаружения мошенничества, оставляя налоговую систему уязвимой для эксплуатации.

Общая стоимость: $4 млрд+

В 2012 году мошенничество, связанное с кражей идентичности для налоговых возвратов, привело примерно к $4 млрд мошеннических возвратов. К 2013 году налоговая кража идентичности затронула 770 000 налогоплательщиков.

6. Cluster Spacecraft

Cluster Mission был проектом Европейского космического агентства, состоящим из четырех идентичных космических аппаратов, разработанных для изучения магнитосферы Земли. Эти спутники предназначались к запуску на борту первого полета ракеты Ariane 5 4 июня 1996 года. Однако всего через 37 секунд после старта ракета взорвалась в воздухе, уничтожив все четыре спутника.

Причина сбоя: Ошибка целочисленного переполнения (Integer overflow)

Ракета Ariane 5 использовала ПО, изначально разработанное для Ariane 4, но её более быстрое ускорение не было учтено в коде. В результате ПО пыталось конвертировать 64-битное число с плавающей точкой в 16-битное целое. Из-за более высокого ускорения Ariane 5 значение превысило лимит хранения, вызывая системный краш.

Общая стоимость ошибки: $370 млн

Уничтожение космических аппаратов Cluster привело к финансовым потерям, превышающим $370 млн. Эта цифра включает разработку и запуск всех четырех космических аппаратов. Помимо денежного воздействия, сбой задержал критические научные исследования магнитосферы Земли.

5. Проблема длинного деления Pentium

В 1994 году был обнаружен критический дефект в микропроцессоре Intel Pentium, вызывающий ошибки в вычислениях деления с плавающей точкой. Баг, позже известный как баг Pentium FDIV, приводил к некорректным десятичным результатам для определенных операций деления. Это привело к широкой озабоченности среди исследователей и бизнеса, полагающегося на точные вычисления.

Было около 5 млн дефектных чипов в обращении, и Intel в итоге решила заменить все чипы для каждого, кто жаловался. Позже Intel превратила некоторые из своих дефектных процессоров в брелоки.

Причина сбоя: Неисправный алгоритм деления в Floating-Point Unit

Баг был вызван отсутствующей записью в таблице поиска в аппаратном алгоритме деления чипа. Определенные деления с плавающей точкой возвращали некорректные результаты после 8-го десятичного знака.

Однако ошибка была редкой, случаясь примерно один раз в девять миллиардов случайных делений с плавающей точкой. Например, деление 4 195 835,0 на 3 145 727,0 давало 1,333739068902037589 вместо правильного 1,333820449136241002 — ошибку 0,006%.

Примерные потери: $475 млн

Intel понесла убытки $475 млн из-за отзыва и замены дефектных чипов. Плюс, инцидент серьезно повредил репутацию компании, побудив Intel принять большую прозрачность в будущих дизайнах процессоров.

4. Крах Уолл-стрит 1987

19 октября 1987 года (также известный как Черный понедельник) Dow Jones Industrial Average (DJIA) упал на 508 пунктов, теряя 22,61% своей общей стоимости, а S&P 500 упал на 20,4%. Это было наибольшее падение, которое Уолл-стрит когда-либо видела за один день.

Причина краха: Алгоритмы автоматизированной торговли

Крупные институциональные инвесторы использовали системы программной торговли для продажи акций при падении рынков, ускоряя крах. Эти системы не учитывали панические рыночные условия, вызывая самоподдерживающийся цикл обратной связи продаж.

Несколько фирм использовали страхование портфеля, алгоритмическую стратегию, продававшую фьючерсные контракты для хеджирования против потерь. По мере падения рынка эти алгоритмы запускали еще больше продаж, ухудшая нисходящую спираль.

Мировые потери оценивались в $1,71 трлн

Пока немедленное экономическое воздействие было менее серьезным, чем изначально опасались, крах привел к увеличению волатильности рынка и побудил регуляторные изменения для предотвращения будущих случаев.

3. Y2K

Баг Y2K, также известный как Баг тысячелетия, возник из-за того, как даты хранились в старых системах. Многие легаси компьютерные программы представляли годы двумя цифрами (например, «99» для 1999) вместо четырех («1999»).

По мере приближения года 2000 выросли опасения, что компьютеры интерпретируют «00» как 1900 вместо 2000, вызывая некорректные вычисления и потенциальные экономические нарушения по отраслям вроде банковского дела, здравоохранения и авиации.

Причина бага: Ограниченная память в ранних вычислениях

Старые компьютеры были спроектированы с минимальной памятью и хранилищем, поэтому программисты использовали двухзначные годы для экономии места. Этот кратковзглядый дизайнерский выбор стал массовой проблемой десятилетиями позже.

Общая стоимость исправления: $300 млрд

Оценки указывают, что усилия по исправлению проблемы стоили более $300 млрд глобально. Только США потратили примерно $100 млрд на подготовку к Y2K. Эти инвестиции покрывали обновления ПО, замену систем, тестирование и планирование неотложных мер.

2. Лечение рака и смертоносная радиационная терапия

Therac-25 был компьютерно-контролируемой машиной радиационной терапии, разработанной Atomic Energy of Canada Limited (AECL) для лечения рака. Между 1985 и 1987 годами прибор доставлял массивные дозы радиации как минимум шести пациентам. Эти пациенты получали дозы радиации в 100 раз выше предполагаемого уровня, подвергая их смертоносным радиационным ожогам и тяжелым повреждениям тканей.

Причина: Состояние гонки (Race Condition) в ПО

Therac-25 полностью полагалась на ПО для безопасности, но баг в коде позволял опасным условиям возникать. Прибор имел два режима: низкоэнергетический рентгеновский режим и высокоэнергетический электронно-лучевой режим. Если техник быстро менял режимы до начала лечения, состояние гонки в ПО могло оставить аттенюатор вне места, позволяя смертоносному электронному лучу попадать в пациентов напрямую.

Общая стоимость: 3 жизни

По крайней мере три пациента умерли от передозировки радиации, в то время как другие страдали пожизненными травмами, включая тяжелые ожоги, ампутации и повреждение органов. Множественные иски были поданы против AECL, приведя к финансовым соглашениям.

1. Сбой ракеты Patriot

В феврале 1991 года (во время первой войны в Персидском заливе) американская система ракет Patriot в Дахране, Саудовская Аравия, не перехватила и не отследила входящую иракскую ракету Scud. Scud упала в казармы американской армии.

Причина сбоя: Накопленная ошибка синхронизации из-за точности с плавающей точкой

Система ракет Patriot полагалась на 24-битный регистр с плавающей точкой для отслеживания времени. Однако накопленная ошибка округления заставила её внутренние часы дрейфовать на 0,34 секунды после непрерывной работы более 100 часов. Поскольку ракета Scud летит со скоростью около 1 676 метров в секунду, эта крошечная ошибка синхронизации заставила радар неверно рассчитать позицию ракеты примерно на 600 метров, приведя к неудачному перехвату.

Влияние: 28 солдат убито и 100 ранен

Удар убил 28 американских солдат и ранил около 100 других, сделав его одной из самых смертоносных атак на силы США во время войны.

Другие заметные сбои ПО

Клиенты Microsoft обвинены в пиратстве: Кто-то из команды Windows случайно установил забагованный пре-про덕шн софт на все серверы Windows. В течение следующих 19 часов всем настоящим пользователям XP говорили, что они используют пиратский софт.

Преступники на условном ранении: В 2011 году около 450 насильственных преступников были выпущены из тюрем округа Калифорния из-за небольшой ошибки в коде компьютерной программы.

Третья мировая война (почти случилась): Ядерная система раннего предупреждения Советского Союза сообщила о запуске американских ракет 26 сентября 1983 года. Советские системы ошибочно зафиксировали отражения солнечного света от вершин облаков и интерпретировали их как ракетные запуски. Позже предупреждения о ракетной атаке были идентифицированы как ложная тревога офицером Советских ВВО. Это решение предотвратило ядерную войну и потенциальные смерти миллионов людей.

Блэкаут: Темнота распространилась по 8 штатам США, затронув 50 миллионов людей в 2003 году. Проблема была в состоянии гонки, вызванной двумя отдельными потоками одной операции, использующими один и тот же элемент кода.

Провалы Apple Maps: С релизом iOS 6 Apple решила отказаться от превосходной платформы Google Maps. К сожалению, это стало одним из самых эпических провалов индустрии мобильных вычислений. В сентябре 2012 года TPMIdeaLab обнаружил, что софт не имел записей для целых городов, некорректно размещенных локаций, спутниковых снимков, замаскированных облаками, и больше.

Рейсы LAX заземлены: В 2007 году тонны некорректных данных были отправлены в американскую пограничную и таможенную сеть контроля. Это привело к закрытию всего аэропорта LAX на 8 часов — более 17 000 самолетов были заземлены до решения проблемы. Виноват был единственный кусок неисправного встроенного ПО.

Читайте также:

• 14 разных типов компьютерных вирусов
• 13 разных типов вредоносного ПО [с примерами]