Слепое пятно алгоритма

Марина третий год работает аналитиком данных в отделе городского транспорта и последние полгода отвечала за запуск нового алгоритма, оптимизирующего автобусные маршруты по всему городу.

Marina lleva tres años trabajando como analista de datos en el departamento de transporte de la ciudad, y en el último semestre estuvo a cargo del lanzamiento de un nuevo algoritmo que optimizaba las rutas de autobús en toda la ciudad.

Пилотные результаты выглядели впечатляюще: среднее время поездки по городу сократилось почти на пятнадцать процентов, а расходы на топливо заметно снизились.

Los resultados del piloto se veían impresionantes: el tiempo promedio de viaje en la ciudad se redujo casi un quince por ciento, y los gastos en combustible bajaron notablemente.

Готовя финальный отчёт перед общегородским запуском, Марина решила на всякий случай перепроверить данные по отдельным районам, а не только усреднённые городские показатели.

Mientras preparaba el informe final antes del lanzamiento a nivel de toda la ciudad, Marina decidió, por si acaso, revisar de nuevo los datos por distritos individuales, y no solo los promedios generales de la ciudad.

Изучая старые жалобы жителей, поступавшие через приложение, она заметила, что почти все они касались одного и того же отдалённого района на юго-востоке.

Al estudiar las viejas quejas de los vecinos, recibidas a través de la aplicación, notó que casi todas se referían a un mismo distrito alejado, en el sureste de la ciudad.

Оказалось, что алгоритм, оценивая маршруты по доходу от проездных, систематически занижал приоритет линий, которыми в основном пользовались пенсионеры и льготники, платившие меньше.

Resultó que el algoritmo, al evaluar las rutas según los ingresos por boletos, reducía sistemáticamente la prioridad de las líneas usadas principalmente por jubilados y personas con descuento, que pagaban menos.

Формально система не делала ничего противозаконного — она просто оптимизировала прибыль, как её и просили, — но на практике это означало, что самый бедный район города постепенно терял автобусы.

Formalmente el sistema no hacía nada ilegal —simplemente optimizaba las ganancias, tal como se le había pedido—, pero en la práctica esto significaba que el barrio más pobre de la ciudad iba perdiendo autobuses poco a poco.

Признать ошибку означало отложить громкий общегородской запуск, ради которого её команда работала полгода, и, возможно, поставить под угрозу собственное повышение, назначенное на следующий месяц.

Reconocer el error significaba posponer el sonado lanzamiento a nivel de toda la ciudad, por el que su equipo llevaba medio año trabajando, y quizás poner en riesgo su propio ascenso, previsto para el mes siguiente.

Марина всё же подготовила отдельную записку с картой неравенства и отправила её напрямую руководителю отдела, а не только своему непосредственному начальнику.

Aun así, Marina preparó un informe aparte con un mapa de la desigualdad y lo envió directamente al jefe del departamento, y no solo a su superior inmediato.

Руководитель сначала раздражённо отмахнулся, но, увидев карту с наглядным разрывом между районами, распорядился пересчитать веса алгоритма и перенести запуск на три недели.

El jefe al principio lo descartó con fastidio, pero, al ver el mapa con la brecha entre distritos claramente visible, ordenó recalcular los pesos del algoritmo y posponer el lanzamiento tres semanas.

Эта история показывает, что настоящий профессионализм иногда заключается не в том, чтобы вовремя закончить проект, а в том, чтобы вовремя усомниться в собственном успехе.

Esta historia muestra que el verdadero profesionalismo a veces no consiste en terminar un proyecto a tiempo, sino en atreverse a dudar del propio éxito a tiempo.