Захват изображений дисплея / монитора, отправка ввода с клавиатуры в Linux

Для этого вам не нужно делать ничего более низкого уровня, чем ядро ​​или драйверы устройств.

Вы можете использовать расширение XTest X11, чтобы программно имитировать события ввода, например (из это сообщение, есть < a href = "http://bharathisubramanian.wordpress.com/2010/03/14/x11-fake-key-event-generation-using-xtest-ext" rel = "nofollow"> другой пример клавиатуры ).

#include <X11/extensions/XTest.h>  
#include <unistd.h>  

int main ()  
{  
  Display *dpy = NULL;  
  XEvent event;  

  dpy = XOpenDisplay (NULL);  

  /* Get the current pointer position */  
  XQueryPointer (dpy, RootWindow (dpy, 0),  
        &event.xbutton.root, &event.xbutton.window,  
        &event.xbutton.x_root, &event.xbutton.y_root,  
        &event.xbutton.x, &event.xbutton.y,  
        &event.xbutton.state);  

  /* Fake the pointer movement to new relative position */  
  XTestFakeMotionEvent (dpy, 0, event.xbutton.x + 100,  
        event.xbutton.y + 50, CurrentTime);  
  XSync(dpy, 0);  
  XCloseDisplay (dpy);  
  return 0;  
}   

Самый простой способ сделать снимки - использовать функцию вставки (через LD_PRELOAD) для «перехвата» вызовов glXSwapBuffers , который будет вызываться после отрисовки каждого кадра. Оттуда вы можете скопировать содержимое фреймбуфера, используя glReadPixels и делайте с ним, что хотите.

Например. непроверенная схема для перехвата фреймов OpenGL:

// Function pointer to the *real* glXSwapBuffers
static void (*glx_fptr)(Display*, GLXDrawable) = NULL;

// Make sure init gets called when the shared object is loaded. GCC specific.
static void init(void)  __attribute__((constructor));

static void init(void) {
    dlerror();
    // find the real glXSwapBuffers
    glx_fptr = dlsym(RTLD_NEXT, "glXSwapBuffers");
    if (NULL == glx_fptr)
        fprintf(stderr, "[glvidcap] %s\n", dlerror());
}

void glXSwapBuffers(Display *dpy, GLXDrawable drawable) {
    unsigned int w = 0;
    unsigned int h = 0;
    static int x,y;
    static Window win;
    static unsigned int border,depth;
    // Find the window size. (You could skip this and make it all static if you
    // Trust the window not to change size
    XGetGeometry(dpy, drawable, &win, &x, &y, &w, &h, &border, &depth);

    // Assuming frame is some memory you want the frame dumped to:
    glReadPixels(0,0,w,h,GL_BGR,GL_UNSIGNED_BYTE, frame);

    // Call the real function:
    assert(glx_fptr);
    glx_fptr(dpy, drawable);
}

Затем вы хотите скомпилировать его как общий объект и LD_PRELOAD этот общий объект перед запуском любой игры, которую вы просматриваете.

Если это приложение SDL, вы можете перехватить вызовы к SDL_Flip или SDL_UpdateRect в зависимости от ситуации.

Благодаря ответу @ awoodland я поискал связанные ресурсы и нашел это

http://bzr.sesse.net/glcapture/glcapture.c

Я компилирую этот код как

gcc -shared -fPIC -o glcapture.so glcapture.c -ldl

И загрузите его для FPS-игры Urban Terror в скрипте как

LD_PRELOAD=`pwd`/glcapture.so [DIR]/UrbanTerror/ioUrbanTerror.i386

В момент запуска этого скрипта игра загружается. По какой-то причине игровая графика не отображается, но я могу это исправить позже. Когда я выхожу из игры, я вижу сообщения gettimeofday, напечатанные на консоли, которые говорят мне, что ловушка сработала. Я предоставлю более подробную информацию по мере продолжения работы над этим кодом.

Для отправки нажатий клавиш я перешел по ссылке

http://bharathisubramanian.wordpress.com/2010/03/14/x11-fake-key-event-generation-using-xtest-ext/

После того, как я установил необходимый пакет на Ubuntu с помощью

sudo apt-get install libxtst-dev

Затем fakeKey.c компилировался и работал без проблем.

Примечание. Я начал проект на Github для этого, любой желающий может разветвляться, помогать и т. Д.