А эксперименты по науке делали или покруьтли - не работет? Там по несколько значений коэффициента передачи смотрели и какой результат. То же с временем интегрирования. Тут хотя бы на бумажку писать надо , а лучше по графикам смотреть . А вообще прикинуть что получается в районе точки регулирования. Какое рассогласование и какое время импульса оно даст и какова цена этого импульса в конечном отклике. Простой эксперимент : при минимальном импульсе какой отклик дает объект. Вполне возможно, что регулятор точнее не в состоянии в принципе регулировать, может быть самое лучшее - чтобы он не выдавал вообще импульс при каком то рассогласовании, а то похоже он выдает минимальный импульс какой может , а его оказывается много , вот и начинается пиление, а то и скачки всякие туда сюда. Определите такой параметр "зависимость вых параметра от времени импульса вблизи точки регулирования в установившемся режиме" и тогда станет ясно : можно ли чего-то добиться. Вы по крайней мере для себя определитесь что нельзя больше ничего добиться и нужен другой регулятор или исполнит механизм. И для тех у кого денежки - аргумент.
А зону то нечувствительности то можно увеличить чуть больше чем амплитуда колебаний.
По крайней мере вместо колебаний получим рассогласование постоянное или медленнее колебания.