У линка есть только 2 варианта: чтобы цвет менялся в зависимости от статуса ноды(выбранной в параметрах линка) или константный цвет. Можно создать DCI Immage объект, который будет менять картинку по заданным условиям. Описание его настройки есть здесь: https://www.netxms.org/documentation/adminguide/network-maps.html#dci-image