Я те самые стены текста не читал, но на мой взгляд какая там математика если РГБ это сугубо выдуманный метод
Взяли 2 шкалы одну реальную другую придумали (для удобства) от 0 до 255, приложили друг к другу, вот и весь перевод.
А чувствительность, т.е. то где будет заметна разница для человеческого глаза, будет индивидуальностью, естественно со средними статистическими значениями, которая будет отображена как в РГБ так и по соответствию РГБ в нанометрах. Хотя я не удивлюсь если зрение человека так сформировано, что на какой-то определённый цвет будет чуть лучшая чувствительность чем на другой.
Просто статьи простой об этом нет, но я думаю, что всё оно концептуально как-то так.