OAuth: Support refresh tokens, etc

Initially I was going to write a failing test for refresh tokens. Thus
this fix includes an orphaned 'expect_failure' method in test utils.

I ended up writing support for OAuth refresh tokens, as well as a lot of
cleanup (hopefully) in the OAuth plugin code.

**Rebase**: While waiting for this stuff to be merged, the testing
framework changed, it comes with batteries included regarding fails.
Removed legacy nosetest helper.

Also added a lot of backref=backref([...], cascade='all, delete-orphan')

Merge branch '614_multi_test_config'

Switch test_app generation over to use py.test fixtures.

By doing this, we can take advantage of py.test's ability to create
temporary directories that are then cleaned up later during testing.
This helps for sandboxing things.

This also involves a ton of changes:
 - Changing the get_app stuff appropriately, getting rid of the
   setup_fresh_app decorator
 - Making said fixture
 - Switching over a billion tests to use it

Oops, forgot to assign dump_old_app to self, heh.

Turning setup_fresh_app into SetupFreshApp, a decorator with options!

This way people can pass in particular paste/mediagoblin configs that they want to use.

Updating get_app to allow for passing in particular app configs

Also require pytest-xdist!

Use py.test --boxed for unit tests from now on!

These tests need to have a MediaGoblin app setup so they can connect to the db!

Thanks to py.test --boxed for helping discover that ;)

All mediagoblin tests now pass with py.test (switched setUp to setup)

Create ProcessingState.store_public.

The ideas is by Alon Levy.

Use it in ProcessingState.copy_original for now.

Little refactoring for images: media_files.

Set the media_files directly at the relvant places.

A bit of pep8: Remove useless whitespace.

Merge remote-tracking branch 'JDShu/649_use_form_data_field'

* JDShu/649_use_form_data_field:
  Use WTForms data field in user_pages/views.py
  Use WTForms data field in auth/views.py
  auth: whitespace cleanup in views.py
  Use WTForms data field in plugins/oauth/views.py
  Use WTForms data field in submit/views.py
  Use WTForms data field in edit/views.py

Merge branch 'master' of gitorious.org:mediagoblin/mediagoblin

Warning that raven plugin is somewhat experimental!

Refactor file field checking.

When uploading, the file field needs some checks, it seems.
So refactor them into check_file_field and use around.

Use WTForms data field in user_pages/views.py

Missed case in a previous commit.

Use WTForms data field in auth/views.py

auth: whitespace cleanup in views.py

Use WTForms data field in plugins/oauth/views.py

Use WTForms data field in submit/views.py

Use WTForms data field in edit/views.py

piwigo: Fix pwg_getversion

This one needs to return just "2.5.0 (Mediagoblin)" instead
of "Piwigo 2...".

piwigo: Start at pwg.images.addSimple.

Without a session and a logged in user, this can't go much
further.

Misses check for the file upload field.
Need refactored test tool for this.

Merge remote-tracking branch 'aeva/671_fix_stl'

Ascii stl files now should have their whitespace stripped when parsing.

Fixed a bug that had binary stls be handled by the ascii stl parser.

Merge remote-tracking branch 'jdshu/649_use_form_data_field'

Webtest2 breaks response.cookies stuff for some reason.

I don't understand why but other people do!

This is a terrible commit message and I am sorry for it.

Use WTForms data field in user_pages/views.py

Updated VideoThumbnailerMarkII, removed old

Removed the old VideoThumbnailer since it's not used anymore.

VideoThumbnailerMarkII:
Changed the state switching in on_thumbnail_message to only set the
state to "processing thumbnail" if the seek was succesful.

I'm not sure what I'm doing here, but I know at least some of it is
good, and as a whole, it seems to work, so far :)

Adding documentation on what the $need_arg code in runtests.sh does

Move description of software stack below description of "What's where"

piwigo start at pwg.images.addChunk.

This function receives part of an upload. Does most
parameter validation, but does not safe the data anywhere
for now.

Also fake pwg.images.exist

piwigo: Add session.getStatus, improve categories.getList

- pwg.session.getStatus returns the current user as
  "fake_user".  When we have a session, we'll return
  something better.

- pwg.categories.getList add a name and the parent id for
  its one and only "collection".

- Improve logging a bit.

piwigo: Sent a fake cookie.

shotwell needs a pwg_id cookie to continue.
And really, it's the only cookie it supports, so in the
long run, we need to send a proper session cookie as
pwg_id.

Add warning README.rst and fix pep8.

piwigo: Move tool functions into tools.py

Start at pwg.categories.getList and improve xml output.

- The xml formatting is now in the main function.
- Add PwgNamedArray to have named lists in xml output.
- Remove gmg.test method

piwigo: start xml response encoding, more (fake) methods.

Starting a piwigo api plugin.

This one just puts up the basic endpoint, some
infrastructure and a fake login method.

Lots more needed.

Improve release notes formatting.

The geolocation ini sample needed more indenting and
got a nice "code-block:: ini".

Point to the Hacking HOWTO

Better description of the structure of the application

Clarification on some original design decisions things.

A more realistic "con" explaination in the docstring of exif_fix_image_orientation

Thanks to dnet for catching this.

This commit sponsored by Chester Zeller.  Thanks!

Remove .pyc files from tarball when running maketarball.sh

Changing "evil" submission test-script to be a bash script.

Start a storage section.

With the workbench stuff in it.

Only create api docs for mediagoblin/

Now in 0.4.0 dev mode!

"will now" -> "will not" tyop caught by AVRS... fixed, thanks!

New version: 0.3.3 !

Committing extracted and compiled translations

Committing present MediaGoblin translations before pushing extracted messages

Fixing dates when uploaded in a video to a mediagoblin instance.

There were some "serializing to json strings" issues.  They should be
fixed now... much more careful whitelist and cleaning of the video
"tags" metadata out of gstreamer.

This commit sponsored by Aimee Sullivan.  Thanks!

You can also DELETE accounts now

Minor release note changes, as suggested by Elrond.

This commit sponsored by Martin Ansdell-Smith.  Thanks!

0.3.3 release notes

Updating AUTHORS with many more people who deserve to be attributed!

Added thingiview.js symlink, fixes webgl view

655: Fix collection fetching for media_collect()

The problem is:

    Collection.query.filter_by(id=X, ...)

1. X = form.collection.data
   This works nicely for the completely empty form (X = None).
   It does not work for a selected collection, because X
   will be the collection, not its id.

2. X = request.form.get('collection') (old code).
   This one works mostly, except for the completely empty
   form on postgres, because in this case X = u"__None" and
   postgres does not like comparing an integer column with
   a string.

Fix:
    collection = form.collection.data
    if collection and collection.creator != request.user.id:
        collection = None

tyop fix in docs, lazyserer.sh->lazyserver.sh

This commit sponsored by S J Bennett.  Thanks!

Change the _original_ design decisions.

- Rename the chapter to "Original *".
- Fix links.

Revive old "Design Decisions".

This brings back the exact version that was removed in
65e7ce634cfecc87ed6f390f9ccf91be513d2eea.

Providing warning to users about instability of OAuth/API

Making a fix so that video codec name switched from "vp8 video" to "vp8"

"vp8 video" is what vp8 is marked as in gstreamer's metadata.
However, the browser expects it just as the name "vp8".  So fixing
that.

This commit sponsored by Tyng-Ruey Chuang.  Thank you!

Committing extracted and compiled translations

Merge branch 'master' into 419_cherrypick_large_uploads

Removing an unnecessary video write

In the case of if we're skipping transcoding, we don't need to copy
this file at all!

This commit sponsored by Frank Zambrini III.  Thanks!

Merge branch 'joar-skip_transcoding'

Elrond points out that we should use form.collection.data

That's true; I'm not sure what it's fixing, but he thinks it's fixing
something.  Anyway, it's correct :)

This commit sponsored by Philippe Gauthier.  Thanks!

Give a more useful error if a table already exists and so we can't create it during migrations

This commit sponsored by Andrzej Prochyra.  Thanks!

Three fixes to collection adding view, one of them a serious security bug

 - Don't let people who aren't the authors of a collection from adding
   things to it (handled by forcing the user check in the query)
 - request url in case invalid collection selected fixed
 - collection_item.author doesn't yet exist; removing the selection
   (we might want multiple people to be able to edit a collection in
   the future but that future does not yet exist; as Elrond said,
   remove this "false hope")

Thanks to Elrond to pointing out these issues.

And thanks to David Kindler for sponsoring this commit!

self.media_data->self.media_manager in the docstring.  Thanks for catching, Elrond.

This commit sponsored by Sebastian Hugentobler.  Thank you!

No reason really to pass in fetch_order anyway...

I think this is legacy code from get_display_media being a utility, or
something.  Removed!  (Thanks for pointing this out, Elrond!)

This commit sponsored by Tristan Chambers.  Thank you!

Make copying to/from storage systems memory efficient (#419)

The copy_locally and copy_local_to_storage (very inconsistent terms BTW)
were simply slurping in everything in RAM and writing it out at once.
(the copy_locally was actually memory efficient if the remote system was local)

Use shutil.copyfileobj which does chunked reads/writes on file objects.
The default buffer size is 16kb, and as each chunk means a separate HTTP
request for e.g. cloudfiles, we use a chunksize of 4MB here (which has
just been arbitrarily set by me without tests).

This should help with the failure to upload large files issue #419.

Another elrond suggestion: only init orig_metadata if there's anything in the dict.

This commit sponsored by Joshua Rosen.  Thank you!

Per Elrond's suggestions moving DEFAULT_WEBM_TYPE to media manager

The reason for this is to avoid defining this twice as we were
previously (once in the template, once in video/models.py)

This commit sponsored by Roland McIntosh.  Thank you!

Extrapolate type= based on the video metadata that we have, if we can.

It's kind of awkward because it relies on there being a entry.media_data,
but that's not guaranteed... (see http://issues.mediagoblin.org/ticket/650)
so we use a dopey fallback in the template in that case (kind of
annoying info duplication).

This commit sponsored by Piotr Wieczorek.  Thank you!

Mild cosmetic cleanups to video.html and adding missing </li> elements.

This commit sponsored by Jukka Hellen.  Thanks!

{% set %} the display_type and display_path and use that elsewhere

This will make some stuff a bit cleaner that's coming up...

This commit sponsored by J B Nicholson-Owens.  Thanks!

pdb.set_trace() in mediagoblin code is Not Allowed(TM), removing from audio code

Of course, the version that appears here is not really dangerous
because it's for the "call the file individually" form of debugging,
but it isn't allowed anyway.

This commit sponsored by Michael Faryniarz.  Thanks!

Now store metadata info from processing into the media type.

This comes in several parts:
 - Store the metadata from gstreamer during processing
 - Add a new JSONEncoded field to the VideoData table
 - And, of course, add a migration for that field!

This commit sponsored by Julius Tuomisto.  Thank you, Julius!

Removed debugging exception

.. that accidentally got included due to not testing the video media
type in the unit tests.

Updated raven plugin

- Added wrap_wsgi, celery_setup, celery_logging_setup hooks
- Updated raven plugin docs
- Updated production considerations docs
- Added raven logging setup

Huge amount of work to (mostly) allow .ogg (and maybe other) formats to skip transcode

 - Update get_display_media in several ways:
   - now uses the media type's own declaration of the order of things
   - returns both the media_size and the media_path, as per the docstring
   - implicitly uses self.media_files as opposed to forcing you to pass it in
 - update videos to use get_display_media
 - update images to declare media_fetch_order in the media manager (videos also)
 - update stl to use media.media_files['original'] instead of weird
   use of get_display_media
 - update sidebar to only conditionally show webm_640

TODO still: identify video type information *during* processing, show
that in the <video><source /></video> element.

This commit sponsored by Nathan Yergler.  Thanks, nyergler!

plugin/raven: Fix paster's celery config issue

Check for CELERY_CONFIG_MODULE before we import raven.contrib.celery. It
seems that the import otherwise sets up the celery client before we get
to pass it our mediagoblin-specific settings.

Added raven plugin docs to docs

Removed stray )

Removed PLUGIN_DIR from raven

Don't look for the oauth config in raven plugin

Refactored raven plugin

Added raven plugin

Added .send method to cloudfiles storage object

.. wrapper. Also added some logging - A .warn() for the legacy .write()
method and a .debug() for the new copy_local_to_storage()

Make Cloudfiles copy memory efficient too (#419)

It seems that (our implementation of) cloudfiles.write() takes
all existing data and appends write(data) to it, sending the
full monty over the wire everytime. This would of course
absolutely kill chunked writes with some O(1^n) performance
and bandwidth usage. So, override this method and use the
Cloudfile's "send" interface instead.

Also make the Cloudfile file wrapper an iterator that allows us to
simply do "for data in cloudfile:" which will stream the data in a
memory-efficient way.

DO NOTE THAT THIS PATCH IS COMPLETELY UNTESTED DUE TO LACK OF SETUP
PLEASE REVIEW AND VERIFY.

Fixed hidden fields in oauth client authorization

Removed the translation marking and passed in empty strings to avoid
WTForms automagically creating the labels from the field names (i.e.
client_id => 'Client Id').

Do not encode the next kwarg twice

Turn "License preference" into a normal field.

instead of rendering it by hand, use the normal field
rendering tools.

Old:
[choose box] License preference
New:
License preference
[choose box]
This will be your default license on upload forms.