13 крупных ошибок программного обеспечения, которые изменили отраслевые стандарты

Независимо от того, сколько кропотливого тестирования проводят инженеры или сколько бессонных ночей разработчики проводят за программированием до рассвета, одна-единственная ошибка все равно может привести к полному сбою системы. Последствия плохой разработки программного обеспечения могут быть катастрофическими:от сбоев в программном обеспечении, которые обходятся в миллиарды долларов, до критических ошибок, приводящих к смертельным случаям.

Знаете ли вы, что низкое качество программного обеспечения обходится американскому бизнесу примерно в 2 триллиона долларов в год, причем основной причиной этих потерь являются сбои в работе программного обеспечения?

Некоторые из наиболее распространенных причин сбоев программного обеспечения включают в себя:

• Неадекватное архитектурное определение и плохой низкоуровневый дизайн.
• Нереалистичные графики или сроки, установленные без достаточных данных и анализа.
• Неспособность предвидеть и учитывать меняющиеся требования.
• Перегрузка проектов чрезмерным персоналом в попытке сократить сроки.
• Переговоры с заинтересованными сторонами, основанные на интуиции или эмоциях.
• Недопонимание, противоречивые эго и негативная командная динамика.

Ниже приведены основные сбои программного обеспечения, которые привели к затруднениям и огромным финансовым потерям.  В крайних случаях ошибки программного обеспечения даже стоили жизни, как, например, в случае передозировки Therac-25.

13. Утечка данных MOVEit 

В мае 2023 года произошла серьезная утечка данных с использованием MOVEit, программного обеспечения для управляемой передачи файлов, разработанного Progress Software. Эта уязвимость позволила получить несанкционированный доступ к конфиденциальным данным, что привело к серии кибератак, затронувших тысячи компаний по всему миру.

Причина сбоя:уязвимость SQL-инъекции

Нарушение в основном было осуществлено посредством атак с внедрением SQL-кода на общедоступные серверы, что позволило злоумышленникам незаметно похитить данные. В частности, эта уязвимость позволила злоумышленникам развернуть веб-оболочку под названием «LemurLoot», которая облегчила несанкционированный доступ и кражу конфиденциальных данных, хранящихся в базах данных MOVEit.

Общая стоимость взлома:15,8 миллиарда долларов США

Нарушение затронуло более 2700 организаций по всему миру и поставило под угрозу личные данные примерно 95,8 миллиона человек. Согласно анализу затрат на утечку данных, проведенному IBM, средняя стоимость одной скомпрометированной записи составляет 165 долларов США.

12. Британская паспортная система (1999 г.)

В 1999 году Паспортное агентство Великобритании представило новую компьютеризированную систему обработки документов для упрощения подачи заявлений на получение паспорта. Система, разработанная Siemens, была призвана модернизировать процесс и повысить эффективность. Однако из-за сбоев программного обеспечения и системных сбоев внедрение вызвало огромные задержки, в результате чего тысячи граждан Великобритании не смогли вовремя получить свои паспорта для поездки. 

Причина неудачи:недостаточное тестирование

Система не была должным образом протестирована в реальных условиях, что привело к возникновению узких мест при ее развертывании. Кроме того, примерно в то же время правительство Великобритании ввело новые паспортные требования для детей, что существенно увеличило объем заявлений, к чему система была не готова.

Общая стоимость ошибки:20 миллионов долларов США

Неудача вынудила правительство Великобритании нанять дополнительный персонал, работать сверхурочно и выплачивать компенсации пострадавшим гражданам, что привело к финансовым потерям примерно в 20 миллионов долларов. Кроме того, тысячи людей пропустили отпуск и командировки, что усилило общественное возмущение. 

11. Маринер 1

Атлас Аджена с Маринером-1 | Изображение предоставлено:Викимедиа

Запущенный в июле 1962 года «Маринер-1» стал первой межпланетной миссией НАСА, целью которой было пролететь мимо Венеры и передать научные данные обратно на Землю. К сожалению, миссия завершилась преждевременно:космический корабль был уничтожен через 293 секунды после старта из-за неисправности системы наведения. 

Причина неудачи:отсутствие верхней панели

Вскоре после старта ракета начала отклоняться от курса. Данное отклонение было вызвано ошибкой в ​​программном обеспечении наведения. В частности, отсутствие верхней черты (символа, обозначающего среднее значение) в рукописных уравнениях наведения приводило к отправке ракете неверных команд наведения. В результате ракета отклонилась от курса, и офицер безопасности полигона приказал уничтожить ее, чтобы предотвратить потенциальную опасность.

Общая стоимость ошибки:18,5 млн долларов США.

Потеря Маринера-1 привела к примерной финансовой неудаче в размере 18,5 миллионов долларов в 1962 году, что эквивалентно примерно 194 миллионам долларов сегодня. 

10. Моя судьба

Впервые обнаруженный 26 января 2004 года, Mydoom является одним из самых печально известных и разрушительных компьютерных червей, когда-либо созданных. Он распространился через вложения электронной почты и одноранговые сети, заразив миллионы компьютеров по всему миру. На пике своего развития на Mydoom приходилось почти 8,3% всех электронных писем, отправляемых по всему миру, что делало его самым быстро распространяющимся почтовым червем в истории.

Причина атаки:неизвестна

Хотя точное происхождение Mydoom остается неизвестным, некоторые теории предполагают, что он был создан группой, нанятой для атаки на SCO Group, которая в то время участвовала в юридических спорах по поводу программного обеспечения Linux. В отличие от многих других червей, у Mydoom, похоже, не было финансовых мотивов. 

Общая стоимость:от 38 до 50 миллиардов долларов США.

Вспышка привела к ущербу на миллиарды долларов, включая расходы на безопасность, потерю производительности и усилия по смягчению последствий. По оценкам, общий финансовый эффект во всем мире составил от 38 до 50 миллиардов долларов.

9. Обрушение Хартфордского Колизея

Источник изображения:Wikispaces

18 января 1978 года крыша Хартфордского общественного центра Колизея в Хартфорде, штат Коннектикут, обрушилась из-за разрушения конструкции. Крыша весом 10 000 тонн упала на зрительскую зону арены всего через шесть часов после проведения баскетбольного матча с более чем 4700 зрителями. К счастью, в тот момент внутри никого не было. 

Причина неудачи:неверные расчеты САПР и ошибки проектирования конструкций

Расследование показало, что обрушение произошло в результате сочетания инженерных просчетов и ошибок компьютерного программного обеспечения, использованных в процессе проектирования конструкций. Инженеры использовали раннее компьютерное программное обеспечение для моделирования распределения напряжений, но оно не учитывало определенные условия нагрузки, что приводило к недооценке уровней напряжения в ключевых соединениях. 

Ферменная система имела неадекватные диагональные связи, что вызывало чрезмерную нагрузку на изгиб. Вес скопившегося снега и льда (от зимнего шторма) вытолкнул конструкцию за пределы ее возможностей.

Общая стоимость:70 миллионов долларов США.

Обрушение подорвало доверие общественности к компьютерному проектированию и привело к ужесточению строительных норм и правил. Кроме того, против проектной фирмы, страховщиков и подрядчиков были поданы крупные иски.

8. Марсианский климатический орбитальный аппарат

Mars Climate Orbiter — роботизированный космический зонд, запущенный НАСА в 1998 году для изучения марсианской атмосферы, климата и изменений поверхности. Через 286 дней запуска космический корабль сгорел в атмосфере Марса вместо того, чтобы выйти на орбиту, как планировалось.

Причина сбоя:ошибка преобразования единиц измерения

Неудача произошла из-за простой, но катастрофической ошибки преобразования единиц измерения между двумя командами НАСА:Lockheed Martin (подрядчик, строящий космический корабль), который использовал британские единицы для расчетов силы, и Лабораторией реактивного движения НАСА, которая управляла миссией, ожидая метрических единиц. 

Поскольку эти блоки так и не были должным образом переоборудованы, навигационная система орбитального аппарата неправильно рассчитала его траекторию, в результате чего он вошел в атмосферу Марса на расстоянии 35 миль вместо запланированных 140 миль. Малая высота привела к тому, что аэродинамические силы разрушили зонд. 

Общая стоимость:327 миллионов долларов США  

Общая стоимость миссии составила около 327,6 миллиона долларов, включая разработку космического корабля, расходы на запуск и эксплуатацию миссии. 

7. Налоговое управление США:отсутствие системы обнаружения мошенничества

В 1994 году Налоговая система (IRS) внедрила Электронную систему обнаружения мошенничества (EFDS) для обнаружения и предотвращения фальсифицированных налоговых деклараций. Со временем EFDS устарела и стала с трудом успевать за развивающейся тактикой мошенничества. Признавая эти недостатки, IRS в 2009 году начало работу над Программой проверки возвратов (RRP) с целью улучшить возможности обнаружения мошенничества и заменить EFDS.

Причина неудачи:задержки внедрения

RRP столкнулся с задержками и не работал в полной мере, как предполагалось. В результате в течение сезона подачи деклараций 2006 года Налоговое управление США действовало без комплексной системы предварительного выявления мошенничества, что делало налоговую систему уязвимой для злоупотреблений. 

Общая стоимость:более 4 миллиардов долларов США

В 2012 году налоговое мошенничество, связанное с кражей личных данных, привело к мошенническому возмещению примерно 4 миллиардов долларов. К 2013 году от кражи налоговых данных пострадали 770 000 налогоплательщиков.

6. Кластерный космический корабль

Кластерная миссия — проект Европейского космического агентства, включающий четыре идентичных космических корабля, разработанных для изучения магнитосферы Земли. Эти спутники планировалось запустить на борту первого полета ракеты «Ариан-5» 4 июня 1996 года. Однако всего через 37 секунд после старта ракета взорвалась в воздухе, уничтожив все четыре спутника.

Причина сбоя:ошибка целочисленного переполнения

В ракете Ariane 5 использовалось программное обеспечение, изначально разработанное для Ariane 4, но в коде не учитывалось ее более быстрое ускорение. В результате программа попыталась преобразовать 64-битное число с плавающей запятой в 16-битное целое число. Из-за более высокого ускорения Ariane 5 значение превысило лимит хранилища, что привело к сбою системы.

Общая стоимость ошибки:370 миллионов долларов США

Уничтожение космического корабля «Кластер» привело к финансовым потерям, превышающим 370 миллионов долларов. В эту цифру входит разработка и запуск всех четырех космических кораблей. Помимо финансовых последствий, провал задержал критически важные научные исследования магнитосферы Земли.

5. Длинное подразделение Pentium

В 1994 году в микропроцессоре Intel Pentium была обнаружена критическая ошибка, вызывающая ошибки в вычислениях деления с плавающей запятой. Эта ошибка, позже известная как ошибка Pentium FDIV, приводила к неправильным результатам десятичных дробей для некоторых операций деления. Это вызвало широкую обеспокоенность среди исследователей и представителей бизнеса, полагающихся на точные расчеты.

В обращении находилось около 5 миллионов бракованных чипов, и в конце концов Intel решила заменить все чипы всем, кто жаловался. Позже Intel превратила некоторые из своих неисправных процессоров в брелки.

Причина сбоя:ошибочный алгоритм деления в модуле с плавающей запятой

Ошибка была вызвана отсутствием записи таблицы поиска в аппаратном алгоритме деления чипа. Некоторые операции деления с плавающей запятой возвращали неправильные результаты после 8-го знака после запятой.

Однако ошибка была редкой:она возникала только один раз примерно в девяти миллиардах случайных делений с плавающей запятой. Например, деление 4 195 835,0 на 3 145 727,0 привело к получению 1,333739068902037589 вместо правильного 1,333820449136241002 — ошибка 0,006%.

Оценочный убыток:475 миллионов долларов США

Intel понесла убытки в размере $475 млн из-за отзыва и замены дефектных чипов. Кроме того, этот инцидент серьезно подорвал репутацию компании, что побудило Intel обеспечить большую прозрачность при разработке будущих процессоров.

4. Крах Уолл-стрит, 1987 год

19 октября 1987 года (также известный как «Черный понедельник») промышленный индекс Доу-Джонса (DJIA) упал на 508 пунктов, потеряв 22,61% своей общей стоимости, а индекс S&P 500 упал на 20,4%. Это была самая большая потеря, которую Уолл-стрит когда-либо видела за один день.

Причина сбоя:алгоритмы автоматической торговли

Крупные институциональные инвесторы использовали программные торговые системы для продажи акций, когда рынки падали, ускоряя крах. Эти системы не учитывали панику на рынке, вызывая самоусиливающуюся петлю обратной связи при продажах.

Несколько фирм использовали страхование портфеля — алгоритмическую стратегию, которая продавала фьючерсные контракты, чтобы застраховаться от убытков.
По мере падения рынка эти алгоритмы вызвали еще больший объем продаж, что еще больше усугубило нисходящую спираль.

Всемирные потери оцениваются в 1,71 триллиона долларов

Хотя непосредственные экономические последствия оказались менее серьезными, чем первоначально опасались, крах привел к усилению волатильности рынка и вызвал изменения в законодательстве для предотвращения повторений в будущем. 

3. 2000 год

Ошибка Y2K, также известная как «Ошибка тысячелетия», возникла из-за того, как даты хранились в старых системах. Многие устаревшие компьютерные программы представляли год с использованием двух цифр (например, «99» для 1999 года) вместо четырех цифр («1999»). 

По мере приближения 2000 года росли опасения, что компьютеры будут интерпретировать «00» как 1900, а не как 2000, что приведет к неправильным расчетам и потенциальным экономическим потрясениям в таких отраслях, как банковское дело, здравоохранение и авиация. 

Причина потока:ограниченный объем памяти на ранних этапах вычислений

Старые компьютеры проектировались с минимальным объемом памяти и памяти, поэтому программисты использовали двузначные числа лет для экономии места. Этот недальновидный выбор дизайна стал серьезной проблемой десятилетия спустя. 

Общая стоимость исправления:300 миллиардов долларов.

По оценкам, усилия по решению этой проблемы обойдутся во всем мире более чем в 300 миллиардов долларов. Только Соединенные Штаты потратили около 100 миллиардов долларов на подготовку к 2000 году. Эти инвестиции включали обновления программного обеспечения, замену систем, тестирование и планирование на случай непредвиденных обстоятельств.

2. Лечение рака и смертельная лучевая терапия

Therac-25 — аппарат лучевой терапии с компьютерным управлением, разработанный компанией Atomic Energy of Canada Limited (AECL) для лечения рака. В период с 1985 по 1987 год устройство вызвало массивную передозировку радиации как минимум у шести пациентов. Эти пациенты получили дозы радиации, в 100 раз превышающие запланированный уровень, что привело к смертельным радиационным ожогам и серьезным повреждениям тканей.

Причина:состояние гонки в программном обеспечении

Безопасность Therac-25 полностью полагалась на программное обеспечение, но ошибка в коде привела к возникновению опасных условий. Устройство имело два режима:режим рентгеновского излучения малой мощности и режим электронного луча высокой мощности. Если техник быстро сменит режимы до того, как устройство начнет лечение, из-за состязания в программном обеспечении аттенюатор может оказаться не на своем месте, что позволит смертоносному электронному лучу напрямую поразить пациентов.

Общая стоимость:3 жизни

По меньшей мере трое пациентов умерли от передозировки радиации, а другие получили пожизненные травмы, включая тяжелые ожоги, ампутации и повреждения органов. Против AECL было подано несколько исков, в результате которых были выплачены финансовые компенсации.

1. Отказ ракеты "Патриот"

В феврале 1991 года (во время первой войны в Персидском заливе) американская ракетная система «Патриот» в Дхаране, Саудовская Аравия, не смогла перехватить и отследить приближающуюся иракскую ракету «Скад». «Скад» врезался в казармы американской армии.

Причина сбоя:накопленная ошибка синхронизации из-за точности чисел с плавающей запятой

Ракетная система «Патриот» для отслеживания времени использовала 24-битный регистр с плавающей запятой. Однако из-за накопленной ошибки округления внутренние часы отклонились на 0,34 секунды после непрерывной работы более 100 часов. Поскольку ракета «Скад» движется со скоростью около 1676 метров в секунду, эта крошечная ошибка синхронизации привела к тому, что радар просчитал положение ракеты примерно на 600 метров, что привело к неудачному перехвату.

Воздействие:28 солдат убиты и 100 ранены

В результате удара погибли 28 американских солдат и около 100 получили ранения, что сделало его одним из самых смертоносных нападений на силы США во время войны. 

Другие заметные сбои программного обеспечения

Клиенты Microsoft обвиняются в пиратстве: Кто-то из команды Windows случайно установил на все серверы Windows предсерийную версию программного обеспечения с ошибками. В течение следующих 19 часов всем настоящим пользователям XP говорили, что они используют пиратское программное обеспечение.

Преступники, освобожденные условно-досрочно:  В 2011 году около 450 жестоких преступников были освобождены из тюрьмы округа Калифорния из-за небольшой ошибки в коде компьютерной программы.

Третья мировая война (почти произошло):Советская система раннего предупреждения о ядерном ударе сообщила о запуске американских ракет 26 сентября 1983 года. Советские системы ошибочно уловили отражения солнечного света от вершин облаков и интерпретировали их как запуски ракет.
Позже офицер Войск ПВО СССР счел предупреждения о ракетном нападении ложной тревогой. Это решение предотвратило ядерную войну и потенциальную гибель миллионов людей.

Отключение электроэнергии: Тьма распространилась по 8 штатам США, затронув в 2003 году 50 миллионов человек. Проблема заключалась в состоянии гонки, вызванном двумя отдельными потоками одной операции, использующими один и тот же элемент кода.

Apple Map не работает: С выпуском iOS 6 Apple решила отказаться от превосходной платформы Google Maps. К сожалению, это оказалось одним из самых грандиозных провалов индустрии мобильных компьютеров. В сентябре 2012 года компания TPMIdeaLab обнаружила, что в программе отсутствуют записи для целых городов, неправильно размещенных мест, спутниковых изображений, скрытых облаками, и многого другого.

Рейсы Лос-Анджелеса отменены: В 2007 году тонны неверных данных были отправлены на границу США и в сеть таможенного контроля. Это привело к тому, что аэропорт Лос-Анджелеса закрыл все это место на 8 часов — более 17 000 самолетов были остановлены, пока не решили проблему. Виновником была одна часть неисправного встроенного программного обеспечения.

Подробнее: 

• 14 различных типов компьютерных вирусов
• 13 различных типов вредоносного ПО [с примерами]