El diccionario de la RAE acepta ambas formas: radioactivo, radiactivo. Por lo tanto, también acepta las formas radioactividad, como radiactividad.
De todas maneras, la RAE aclara que la forma preferida y mayoritaria es "radiactivo", "radiactividad".
Te doy ejemplos de uso:
"La radiactividad es un fenómeno natural que se manifiesta en la descomposición de los núcleos de átomos inestables"
"El accidente en la planta nuclear provocó altos niveles de radiactividad en la zona aledaña"
"Los investigadores estudian los efectos de la radiactividad en distintos organismos vivos"
Puedes leer en nuestro diccionario el significado de estas palabras: