Подключили к плате генератор синусоидального тока и подали сигнал 500кГц.
(ко входу X1(16) - подвели сам сигнал, а AGND(17) и GND32(36) соеденили и подвели туда землю)
Так вот, включаем LGraph (генератор пока не включен), оставляем только один канал осциллоскопа (А - первый) и тут он начинает постепенно сползать вниз. Когда включаем 2-й канал (В - второй), то оба перескакивают на середину осциллоскопа. Это одно...
Когда же включаем генератор и оставляем только 1-й канал, то сигнал опять таки начинает сползать вниз и ктому же "уполовинивает" его (т.е. остаются только верхушки синусойды).

Подскажите в чем может быть проблема.

Проблема в подключении. L-graph работает в 16 канальном режиме. Подключайтесь в соответствии со схемой в ТО. Незадействованные каналы соедините с AGND.