Ein guter Artikel zu HTML5:
HTML5 – Was geht heute schon, was geht nicht? Der große Überblick. ? Peter Kröner, Webdesigner & Frontendentwickler
Bei CSS3 musst du selber wissen, was du willst: Wenn du z.B. darauf verzichten kannst, dass ein großteil der Nutzer keine runden Ecken sieht, dann kannst du die gut und gern mit CSS3 umsetzen um gleichzeitig ein schlankeres Markup zu bekommen. Allgemein gilt, solange du nicht ältere, aber immer noch genutze Browser durch neue Techniken
ausschließt, d.h. die Benutzung der Seite verwehrst, spricht nichts gegen CSS3 und HTML5.
Da CSS3 allerdings noch in der Entwicklung ist, musst du u.U. für jeden Browsertypen ein eigenes Süpchen kochen, weswegen ich momentan noch die Finger von CSS3-Features lasse. (von einigen Ausnahmen mal abgesehen)