Dit hangt er vanaf :-)
Je hebt schalen en indices: bij een schaal gebruik je meerdere items om de meetfout te verlagen; bij een index om verschillende, niet noodzakelijk correlerende, aspecten van een variabele (of meerdere variabelen) in kaart te brengen. Moeilijk om bondig uit te leggen; zie dit artikel voor meer details.
Als het een index betreft, zijn lage correlaties geen probleem. Dan mag je overigens ook geen Cronbach's Alpha uitrekenen. En je meetinstrument moet natuurlijk bedoeld zijn als index, niet als schaal.
Bij een schaal zijn negatieve correlaties problematisch.
Als het een zelf ontwikkelde schaal is, is het een indicatie dat de betreffende items iets anders meten dan de rest van de schaal. Dan is verwijdering vaak het verstandigst (of opname in een andere schaal).
Als het een bestaand meetinstrument is, heb je een probleem. Je kunt de items dan immers niet verwijderen; dan is je meetinstrument niet langer valide. Maar als je de items er in laat, is de validiteit ook aangetast - de items hangen immers anders samen dan ze samen horen te hangen. Dat is een indicatie dat het meetinstrument niet goed werkt voor jouw populatie/cultuur/context.
Als je concludeert dat dat laatste het geval is, heb je met dat meetinstrument dus iets gemeten waarvan je niet weet wat het is. Je kunt die meting dan niet gebruiken. Zo is het leven van een onderzoeker soms . . . Je kunt natuurlijk dat accepteren, alsnog de problematische vragen verwijderen, en dan alsnog een gemiddelde berekenen. Je moet er dan rekening mee houden dat je, totdat je meer onderzoek doet, niet precies weet wat je hebt gemeten. Je moet dus uitermate (heel, heel, heel, heel erg) terughoudend zijn met uitspraken over die dataset (tenminste, m.b.t. die variabele).