Слово "кошмарить" заимствовано из жаргона уголовников. Слово "кошмар" существовало в воровском арго, оно означало "помеху при совершении преступления".
Отсюда - глагол "кошмарить", имеющий два значения. Первое: создавать невыносимые условия для заключенного. Второе: запугивать.