Rassure toi, tu as bien du PCI Express, si c'était de l'AGP tu ne pourrais pas rentrer ta carte. C'est un slot PCI Expresse, ça se voit et c'est marqué en dessous.
As-tu un écran LCD ? C'est possible que la carte graphique te crache une fréquence de rafraichissement trop haute pour ton écran, pour les CRT ça passait mais les LCD bloquent direct, ça m'était déjà arrivé une fois, j'avais toujours mon CRT sous la main alors j'ai fais les changements dessus. Essayes les deux ports DVI de ta carte, on sait jamais même si normalement elle émet sur les deux.
Sinon au bout de ton PC, tu entends le disque dur qui gratte ?