Sie müssen eine Variable im Löschlink übergeben. Sie müssen <?php echo $contact['name']; ?>
name-Wert im versteckten Feld oder übergeben Sie diesen Wert in URL
Ersetzen
<td class="contact-delete">
<form action='delete.php' method="post">
<input type="hidden" name="name" value="">
<input type="submit" name="submit" value="Delete">
</form>
</td>
Mit
<td class="contact-delete">
<form action='delete.php?name="<?php echo $contact['name']; ?>"' method="post">
<input type="hidden" name="name" value="<?php echo $contact['name']; ?>">
<input type="submit" name="submit" value="Delete">
</form>
</td>