Sie sollten zuerst das "report"-Objekt abrufen und dann auf seinen Inhalt zugreifen. Sie können den Beispielcode unten sehen.
DBCursor cur = coll.find();
for (DBObject doc : cur) {
String fileName = (String) doc.get("name");
System.out.println(fileName);
DBObject report = (BasicDBObject) doc.get("report");
String reportName = (String) report.get("name");
System.out.println(reportName);
}