Nie mam pojęcia gdzie popełniłeś błąd bo nie bardzo rozumiem tok rozumowania.
Ja bym rozwiązała to tak:
a) 0,1(12) = 0,1 + 0,0(12)
0,0(12) = x /*10
0,(12) = 10x /*100
12,(12) = 1000x
12 = 990x
x = 12/990, co po skróceniu da nam 2/165 (gdzie '/' jest kreską ułamkową)
1/10 + 2/165 = 33/330 + 4/330 = 37/330
b) 0,(03) = x /*100
3,(03) = 100x
3 = 99x
x = 3/99 = 1/33